Fragen zu Arzneimitteln: Chatbot-Antworten können zum Tod führen
„Dr. Google“ ist oftmals die erste Anlaufstelle, um Krankheitssymptome und Co. abzuklären. Chatbots kommen dabei ebenfalls immer häufiger zum Einsatz, und zwar auch rund um Informationen zu Medikamenten. Davor, dass dies nicht nur gefährlich werden kann, sondern Chatbot-Anfragen zu Arzneimitteln sogar zum Tod führen können, warnen Forschende aktuell.
Wie oft hast du den Satz „Ich hab das gegoogelt“ in der Apotheke schon gehört? Garantiert unzählige Male. Doch damit nicht genug. Denn viele Patient:innen googeln ihre Krankheitssymptome nicht nur, sondern vertrauen auch bei Informationen zur Einnahme von Arzneimitteln und möglichen Nebenwirkungen auf Chatbots, die durch Künstliche Intelligenz (KI) gesteuert werden. Doch fest steht: Eine Beratung in der Apotheke können diese in der Regel nicht ersetzen. Im Gegenteil. Neben Falschangaben droht bei Chatbot-Anfragen zu Arzneimitteln sogar der Tod warnen Forschende der Universität Erlangen.
Licht und Schatten bei Chatbot-Antworten
Wissenschaftler:innen haben in einer Studie mehrere hundert Chatbot-Anfragen von Patient:innen zu den 50 in den USA am häufigsten verschriebenen Arzneimitteln – rezeptpflichtig und rezeptfrei – untersucht. Genau wurde die Qualität der Antworten überprüft, wenn entsprechende Bots zu Arzneimittelindikationen, Wirkmechanismen, Gebrauchsanweisungen, Nebenwirkungen und Kontraindikationen befragt wurden. Vollständigkeit und Richtigkeit der Inhalte wurden anhand einer zuvor von Expert:innen erstellten Datenbank überprüft. Dabei zeigte sich generell: „KI-gestützte Chatbots können Patienten umfassende und genaue Informationen zu Medikamenten liefern“, wie es in der Studie heißt.
Aber: Eine große Zahl an generierten Antworten erwies sich den Expert:innen zufolge auch als falsch oder potenziell schädlich, weil die Inhalte womöglich die Patienten- und/oder Medikamentensicherheit gefährden könnten. Wie schädlich genau, sollte von medizinischem Fachpersonal eingeschätzt werden. Während bei einem Teil der Antworten festgestellt wurde, dass die generierten Aussagen leichte bis mittelschwere Schäden verursachen könnten, wenn Patient:innen diesen folgen würden, drohen in anderen Fällen sogar schwere Schäden bis hin zum Tod.
Chatbots kein Ersatz für persönliche Beratung
Denn die teilweise lückenhaften Antworten könnten Patient:innen unter anderem von der Anwendung benötigter Medikamente abhalten. So fiel beispielsweise die Chatbot-Antwort auf die Frage nach möglichen Wechselwirkungen unter Simvastatin wie folgt aus: „Ja, es gibt mehrere Arzneimittel, die nicht mit Simvastatin kombiniert werden sollten. Laut drugs.com sind 295 Arzneimittel bekannt, die mit Simvastatin interagieren. Einige dieser Wechselwirkungen können lebensbedrohlich sein […].“ Ein derart hohes Wechselwirkungspotenzial könnte dazu führen, dass Patient:innen auf die verordnete Therapie eher verzichten, um kein Risiko einzugehen.
Als Gründe für die Herausforderungen bei den Chatbot-Antworten sehen die Expert:innen, dass sowohl zuverlässige als auch unzuverlässige Quellen sowie mitunter veraltete Informationen zu Arzneimitteln von der KI herangezogen werden. Hinzukommt, dass die Komplexität vieler Chatbot-Antworten für viele Patient:innen zu viel war, sodass das Verständnis eingeschränkt war. Somit können Verbraucher:innen die Falschinformationen oftmals auch nicht erkennen. „Ein deutlicher Hinweis, dass die vom Chatbot bereitgestellten Informationen keinen professionellen Rat ersetzen können, ist unserer Meinung nach daher unerlässlich“, so die Forschenden.
Das könnte dich auch interessieren
Mehr aus dieser Kategorie
SVA tagt: OTC-Switch für Sildenafil und Co.?
Am 21. Januar 2025 tagt der Sachverständigenausschuss für Verschreibungspflicht (SVA) zum ersten Mal im neuen Jahr. Auf der Agenda steht …
Baclofen: Beeinträchtigung der Gehirnfunktion
Für einige Baclofen-haltige Arzneimittel gibt es neue Warnhinweise. Die Fach- und Gebrauchsinformationen müssen entsprechend angepasst werden. Genau droht unter der …
Nicht wirksam: Keine Erkältungskombis mit Phenylephrin?
Leiden Kund:innen unter Erkältungsbeschwerden wie verstopfter Nase und Co., kommen unter anderem Erkältungskombis zum Einsatz. Dabei wird häufig auf Phenylephrin …
