Was muss die Apotheke selbst im Rahmen der EU-KI-Verordnung in der Anwendung von KI in der Apotheke berücksichtigen?

Die EU-KI-Verordnung (Artificial Intelligence Act) stellt einen wichtigen Rahmen für den verantwortungsvollen Einsatz von KI dar. Durch eine sorgfältige Umsetzung der gesetzlichen Vorgaben in Ihrer Apotheke können Sie die Vorteile von KI nutzen, ohne die Sicherheit und das Wohl Ihrer Patienten zu gefährden. Grundsätzlich gilt: Jeder Einsatz von KI in der Apotheke unterliegt den gleichen gesetzlichen Anforderungen wie alle anderen Tätigkeiten. Der Apotheker trägt weiterhin die volle Verantwortung für alle Prozesse und Entscheidungen, auch wenn er dabei KI-Tools nutzt. Apotheker, die KI-Systeme in ihrer Praxis einsetzen möchten, müssen sich sorgfältig mit den Bestimmungen der EU-KI-Verordnung auseinandersetzen. Dies gilt insbesondere für:

Risikobewertung: Es muss eine gründliche Risikobewertung durchgeführt werden, um sicherzustellen, dass das KI-System keine unzulässigen Risiken birgt. Implementieren Sie ein Risikomanagement, um diese durchzuführen. So können Sie die potenziellen Risiken identifizieren, die mit dem Einsatz der KI verbunden sind. Transparenz: Die Funktionsweise des KI-Systems muss nachvollziehbar sein, um mögliche Fehlerquellen zu identifizieren und zu beheben. Führen Sie eine umfassende Dokumentation über die Entwicklung, den Einsatz und die Ergebnisse der KI.

Rechenschaftspflicht: Der Apotheker bleibt für die Entscheidungen verantwortlich, die auf Basis der KI-Empfehlungen getroffen werden.

Kompetenzsicherung: Stellen Sie die KI-Kompetenz aller Personen, die mit dem Betrieb und der Nutzung Ihres KI-Systems befasst sind, durch geeignete Schulungen sicher: Sowohl Apotheker als auch Mitarbeiter müssen geschult werden, um die KI sicher und effektiv einzusetzen.

Datenschutz: Die KI darf nur mit personenbezogenen Daten umgehen, wenn dies gesetzlich erlaubt ist und der Betroffene eingewilligt hat. Die Daten müssen angemessen geschützt werden.

Arzneimittelgesetz: Die KI darf keine Entscheidungen treffen, die die Arzneimittelsicherheit gefährden.

Berufsordnung: Die Tätigkeit des Apothekers muss stets im Einklang mit den ethischen Grundsätzen des Berufsstandes stehen.

Haftung: Der Apotheker haftet für Schäden, die durch den Einsatz der KI entstehen.

Unterlassung von verbotenen Praktiken: Soziale Bewertungssysteme und KI-Systeme, die Menschen anhand ihrer sozialen Verhaltensweisen oder persönlichen Eigenschaften bewerten oder klassifizieren, sind verboten. KI-Systeme, die die Entscheidungen von Menschen manipulieren oder ihre Schwachstellen ausnutzen, sind ebenfalls untersagt. Grundsätzlich verboten ist auch der Einsatz von KI zur biometrischen Massenüberwachung und der Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen. Ebenfalls verboten ist die Nutzung von KI-Systemen in Spielzeugen, die gefährliches Verhalten fördern. Die Anwendung von KI darf nicht zur Diskriminierung von Patienten führen. Die KI darf keine Entscheidungen treffen, die auf Vorurteilen oder Stereotypen beruhen. Auch darf die KI keine Empfehlungen geben, die zu falschen oder gefährlichen Medikamentenverordnungen führen und damit die Arzneimittelsicherheit gefährden.

Wir empfehlen Ihnen, sich regelmäßig über die aktuellen Vorgaben der EU-KI-Verordnung zu informieren, da sich diese ändern können.

Zusätzlich können Sie sich von einem spezialisierten Rechtsanwalt beraten lassen, um die spezifischen Anforderungen für Ihren Anwendungsfall zu klären.

Wie kann ich in meiner Apotheke ein Risikomanagement implementieren, um eine entsprechende Risikobewertung durchzuführen?

Ein effektives Risikomanagement umfasst mehrere Schritte: Zunächst sollte eine Risikoanalyse durchgeführt werden, um potenzielle Gefahren zu identifizieren.

Hierzu sollten Sie in Ihrer Apotheke sicherstellen, dass alle Mitarbeiter, die mit KI-Systemen arbeiten, ausreichend geschult sind. Dies umfasst das Verständnis der Funktionsweise von KI und der spezifischen Anwendungen, die innerhalb der Apotheke genutzt werden.

Zudem sollten regelmäßige Überprüfungen und Audits durchgeführt werden, um sicherzustellen, dass alle Prozesse den gesetzlichen Vorgaben entsprechen.

Lernt das true+ AI-System durch Prompten?

Nein, das System von true+ lernt nicht durch Prompten. Es ist darauf ausgelegt, spezifische Use-Cases innerhalb der Apotheke zu unterstützen und nutzt keine allgemeinen Prompting-Mechanismen.

Trotzdem sind Übung und Erfahrung im Prompten hilfreich, damit Sie als Anwender zu den von Ihnen gewünschten Antworten gelangen. Während Ihre Eingaben also Schritt für Schritt immer spezifischer werden, kann die KI in gleichem Maße genauer und genauer verstehen, welche Ausgabe von ihr verlangt wird.

Dieser Vorgang ist nicht zu verwechseln mit dem sogenannten „KI Learning“, das bei der Programmierung zur Anwendung kommt und dafür sorgt, dass das Produkt KI intelligent verstehen, kombinieren, kommunizieren und antworten kann.

Effektives und gekonntes Prompt Engineering wird Sie mehr und mehr mit Ihren gewünschten Ergebnissen versorgen, es ändert jedoch nichts an der grundlegend vorgegebenen und in der Programmierung festgelegten Intelligenzleistung Ihrer true+ KI. Ihre KI vermehrt ihr Wissen durch Dokumente, die sie ihr zur Verfügung stellen oder Webseiten, auf die sie ihr Zugriff gewähren.

Gibt es Empfehlungen für effizientes Prompten?

Da das System von true nicht durch Prompten lernt und arbeitet, geben wir auch keine spezifischen Empfehlungen zum Prompten. Wir bieten jedoch Videoschulungen an, um unseren Kunden die Nutzung des Systems zu erleichtern und Fragen zu beantworten.

Um gute Ergebnisse zu erhalten, konzentrieren Sie sich bei Ihren Abfragen auf das Wesentliche und achten Sie auf Genauigkeit sowie eine klare und verständliche Ausdrucksweise. Bleiben Sie geduldig, neutral und freundlich. Wenn Sie Antworten erhalten, die Sie nicht zufriedenstellen, spezifizieren Sie Ihre Fragen und bleiben Sie dran, bis Sie zufrieden sind. Je genauer der Input, desto exakter der Output.

Das System kann nicht raten, was Sie meinen könnten und liest nicht zwischen den Zeilen. Sagen Sie exakt und direkt, was Sie wissen wollen, dann werden Sie schnell lernen, das Maximum aus Ihrem true+ AI-System herauszuholen.

Worin unterscheidet sich das true+ AI-System von anderen LLMs (Large Language Models)?

Das true+ Brain ist speziell für die Bedürfnisse von Apotheken entwickelt worden. Im Gegensatz zu generischen LLMs ist es auf die Anwendung in einer apothekenspezifischen Umgebung optimiert.

Es nutzt keine Informationen von außerhalb des Systems und ist insbesondere darauf ausgelegt, die Sicherheit und Vertraulichkeit der Daten einer Apotheke zu gewährleisten.

Ihr true+ AI-System fungiert als Ihre eigene, persönliche KI. Niemand außer Ihnen hat Zugang zu diesem System. Als spezialisierte Apotheken-KI bringt ihr true+ AI-System bereits einen großen Datensatz an medizinischem und gesundheitsrelevantem Basiswissen mit.

Diese true+ AI versorgen Sie nun mit allen Informationen, die für Ihren Apothekenbetrieb wichtig sind, damit Ihre true+ AI zu einem wertvollen Tool wird, das interne Prozesse Ihres Unternehmens minimieren und die Kenntnisse Ihrer Mitarbeiter maximieren kann.

Wie wird die Sicherheit des Systems gewährleistet?

true+ wird ausschließlich auf Servern in Deutschland gehostet, speziell auf Servern von Hetzner. Dies gewährleistet, dass alle Daten innerhalb der EU bleiben und den höchsten Sicherheitsstandards entsprechen.

Unsere Systeme sind außerdem so konfiguriert, dass sie keinen Zugriff auf externe Informationsquellen haben, was das Risiko eines Datenlecks minimiert.

Wie kommen Inhalte ins System?

Inhalte können manuell von Ihren Apothekenmitarbeitern in das System eingegeben oder hochgeladen werden. Bitte beachten Sie, dass aus rechtlichen Gründen die Quelle der hochgeladenen Dokumente für uns als Anbieter jederzeit nachvollziehbar sein muss.

Verwendet meine true+ AI Inhalte aus anderen Quellen?

Ihr intelligentes true+ AI-System greift bei seiner Arbeit nicht auf externe Quellen zu. Es bringt bereits ein breites Spektrum von gesundheitlich relevantem Basiswissen und medizinisch-pharmazeutischem Fachwissen aus verlässlichen, überprüften Quellen und Datenbanken mit, das speziell für Apotheken zusammengestellt wurde und generiert seine Antworten aus diesem Basiswissen, kombiniert mit Daten, die sie Ihrem System zur Verfügung stellen.

Wir empfehlen Ihnen zum Kennenlernen Ihrer true+ AI, zunächst so viel wie möglich dieses Wissens abzufragen. Dadurch lernen Sie die Leistungsfähigkeit Ihrer KI kennen und können herausfinden, welche Informationen sie hat und was sie ihr darüber hinaus noch beibringen wollen.

Bei der Auslieferung an Sie hat das true+ AI-System jedoch noch keinerlei Kenntnis über Ihre Betriebsinterna. Hier entscheiden nur Sie, welche Daten und Informationen Sie in die KI einspeisen.

Wie kann ich meine eigenen Inhalte einspeisen?

Der Upload ins System der true+ AI erfolgt über einen Zugang, den Sie zusammen mit Ihrer true+ AI erhalten. Sie können sowohl Dateien in PDF-Form ins System hochladen, als auch ganze Webseiten, deren Inhalten Sie vertrauen, für Ihr true+ AI-System freigeben.

Legen Sie sich unbedingt von Anfang an ein separates, gut strukturiertes, eigenes Verzeichnis sämtlicher Dateien und Webseiten an, die Sie der KI übermittelt haben.

Um eine einfache Verwaltung und spätere Korrektur von Daten zu ermöglichen, empfehlen wir Ihnen, Ihre Dateien mit klaren und eindeutigen Bezeichnungen zu versehen. Dadurch können Sie jederzeit schnell auf die entsprechenden Dateien zugreifen und diese bei Bedarf löschen.

Sobald Sie wissen, welche betriebsinternen Informationen, Fachkenntnisse, Spezialkenntnisse u.v.m. Sie Ihrer true+ AI übermitteln wollen, verfassen Sie darüber PDF-Dateien oder nutzen bereits vorhandene Dateien in PDF-Form bzw. wandeln Ihre vorhandenen Dateien um in PDFs.

Laden Sie anfangs einzelne Dateien hoch und fragen Sie deren Inhalte unmittelbar bei der KI ab, um zu kontrollieren, ob Ihre Dokumente auch so verfasst sind, dass sie das System verarbeiten kann.

Sie können Ihre true AI auch dazu bemächtigen, die Inhalte ganzer Webseiten zu nutzen, z.B., wenn Sie Seiten wie die der ABDA, DAK, PZ usw. vertrauen.

In Ihrem Zugang finden Sie eine Auflistung aller von Ihnen hochgeladene PDFs sowie der für die KI freigegebenen Webseiten. Es ist ratsam, regelmäßig eine Überprüfung der gespeicherten Daten vorzunehmen, um sicherzustellen, dass alle Informationen auf dem neuesten Stand sind.

Kann ich einmal in die true+ KI eingespeiste Daten und Quellen aktualisieren oder wieder entfernen?

Ja, Sie können jederzeit festlegen, welche Daten und Inhalte im System verwendet werden sollen und welche nicht. Wenn bestimmte Daten nicht mehr aktuell sind oder entfernt werden sollen, können diese aus dem System herausgenommen werden. Sie können jedes hochgeladene PDF auch wieder löschen bzw. die einmal erteilte Freigabe für jede Webseite deaktivieren.

Hierzu ist es wichtig, dass Sie das Wissen, das Sie löschen wollen, auch finden. Eine gute Struktur Ihres separaten Verzeichnisses und eine sinnvolle Benennung Ihrer Dateien sind daher für Sie selbst unbedingt notwendig und zur Erfüllung Ihrer Dokumentationspflicht gemäß EU KI-Verordnung unabdingbar.

Ihre hochgeladenen PDF-Dateien können Sie nicht direkt im System ansehen und editieren. Hier ist das Löschen und anschließende Hochladen einer aktualisierten Datei notwendig.

Wo liegen meine apothekeninternen Daten?

Alle apothekeninternen Daten werden sicher auf unseren Servern in Deutschland gespeichert. Wir setzen strenge Sicherheitsprotokolle ein, um den unbefugten Zugriff auf diese Daten zu verhindern.

Werden meine Daten wiederverwendet?

Nein, die Daten, die Sie in das true+ AI-System einspeisen, werden nicht weiterverwendet oder für andere Zwecke genutzt.

Was ist beim Urheberrecht zu beachten, wenn urheberrechtlich geschützte Dokumente in das System eingespeist werden?

Die Verantwortung für die Einhaltung des Urheberrechts liegt beim Nutzer des Systems, in diesem Fall also bei Ihnen als Unternehmer. Genau wie bei Social Media ist der Benutzer dafür verantwortlich, sicherzustellen, dass alle eingespeisten Dokumente ordnungsgemäß verwendet und keine Urheberrechte verletzt werden.

Wir empfehlen, vor dem Hochladen von Dokumenten die Urheberrechte zu überprüfen.

Gibt es Empfehlungen für den Umgang mit „Kinderkrankheiten” des Systems, wie z.B. PDF-Ergebnisse in Tokens?

Für etwaige „Kinderkrankheiten” des Systems, wie das unerwartete Verhalten bei der Verarbeitung bestimmter Dokumente, bieten wir Unterstützung über ein Ticketsystem an.

Wir empfehlen Ihnen, eventuell auftretende Probleme direkt über dieses Ticketsystem zu melden, damit wir schnell und effektiv reagieren können.

Aktuelle Updates zur Fehlerbehebung werden alle 14 Tage bereitgestellt.

Montag bis Samstag von 10:00 Uhr bis 20:00 Uhr

Schreiben Sie uns gerne eine E-Mail an: ai@trueplus.app

nature interactive GmbH
Pönitzer Weg 34
D-23684 Scharbeutz, Deutschland (Germany)

Geschäftsführer: Jonathan von Gratkowski
Registergericht: Amtsgericht Lübeck, Deutschland
Registernummer: HRB 19865 HL
Umsatzsteuer-Identifikationsnummer: DE329852960