ArchivDeutsches Ärzteblatt PP3/2018Künstliche Intelligenz: Chatbots und Maschinen willkommen

THEMEN DER ZEIT

Künstliche Intelligenz: Chatbots und Maschinen willkommen

PP 17, Ausgabe März 2018, Seite 117

Gießelmann, Kathrin

Als E-Mail versenden...
Auf facebook teilen...
Twittern...
Drucken...
LNSLNS

Der Großteil der Bürger in Deutschland würde den Einsatz von künstlicher Intelligenz in der Medizin begrüßen. Das ergab eine repräsentative Telefonumfrage des Digitalverbands Bitkom. Eine neutrale Entscheidung traut den Maschinen aber nur jeder zweite Befragte zu.

Chatbots sehen viele Bundesbürger als sinnvolle Ergänzung im Service. Persönliche Daten würde aber nur jeder Dritte dem digitalen System offenbaren. Foto: hainichfoto/stock.adobe.com
Chatbots sehen viele Bundesbürger als sinnvolle Ergänzung im Service. Persönliche Daten würde aber nur jeder Dritte dem digitalen System offenbaren. Foto: hainichfoto/stock.adobe.com

Etwa 70 Prozent der telefonisch Befragten einer aktuellen Bitkom-Umfrage können sich vorstellen, bei bestimmten Entscheidungen auf Empfehlungen einer Künstlichen Intelligenz (KI) zurückzugreifen. Ebensoviele sind davon überzeugt, dass KI einen Durchbruch in der Forschung ermöglichen könnte. Ein Lebensbereich, in dem sie die Maschinenintelligenz für besonders sinnvoll erachten ist die Medizin: 81 Prozent befürworten KI zur Früherkennung von Krankheiten. An erster Stelle nennen die Umfrageteilnehmer Prognosen von Umweltphänomenen (93 Prozent), auf Platz zwei mit 92 Prozent folgt die Bekämpfung von Finanzkriminalität, 86 Prozent finden den KI-Einsatz zur Vermeidung von Staus durch optimierte Ampeln sinnvoll. Die Ergebnisse der Umfrage unter gut 1 000 Bürgern stellte Bitkom-Präsident Achim Berg am 6. Februar bei der Konferenz „Künstliche Intelligenz – Dein Freund und Helfer?“ in Berlin anlässlich des Safer Internet Days vor.

Anzeige

Bundesbürger zweifeln an Neutralität von KI-Systemen

Auch bei der Kommunikation wären viele bereit, mit einem Chatbot zu sprechen statt mit einem Menschen. 75 Prozent können sich die textbasierten Dialogsysteme als eine sinnvolle Ergänzung bei der Buchung von Flügen, Hotels und Zügen vorstellen, 69 Prozent wären einverstanden, ihren Termin beim Arzt oder beim Amt über einen Bot zu organisieren. Beim Kundenservice von Unternehmen wollen hingegen nur 28 Prozent auf echte Menschen verzichten. Gänzlich überzeugt scheinen die Befragten aber dennoch nicht. Die Frage, ob KI eher eine Chance oder ein Risiko darstellt, geht mit 55 zu 41 Prozent nur knapp zugunsten der Chancen aus. Noch schlechter schneidet die Maschinenintelligenz bei der Neutralität ab. Nur jeder Zweite ist der Meinung, dass der Chatbot eine neutrale Antwort gibt und 52 Prozent glauben nicht daran, dass KI neutrale Entscheidungen trifft. Der Informatiker Berg findet die Bedenken verständlich, da die Entscheidung der Maschine für den Verbraucher nicht transparent ist. Eine Art TÜV, der eine Offenlegung der Algorithmen beinhaltet, hält er dennoch nicht für zielführend: „Zum einen gibt es ein Problem mit dem Urheberrecht. Wenn man weiß, wie ein Algorithmus gebaut ist, öffnet dies der Manipulation Tür und Tor. Zum anderen sind Algorithmen extrem schwer zu verstehen.“ Die Logik der Entscheidung sollte aber dennoch überprüft werden.

Eindeutig für eine Kontrolle der Algorithmen plädiert Gerd Billen, Staatssekretär im Bundesministerium der Justiz und für Verbraucherschutz (BMJV). „KI first, Bedenken second ist nicht unser Weg“, lautet sein Statement. Die Aufgabe der Kontrolle könnten etwa die Stiftung Warentest übernehmen oder andere staatliche Institutionen, schlägt Billen vor.

Prüfung für KI-Systeme soll Vertrauen stärken

Die staatliche Kontrolle ist auch deshalb so wichtig, weil seiner Meinung nach keine KI neutral sei. „Es können sich Fehler einschleichen über jene, die die Algorithmen programmieren oder aufgrund einer schlechten Datenqualität.“ Am Beispiel VW könne man sehen, was passiert, wenn diese Kontrolle entfällt. „Hier haben wir einen Aufholbedarf, damit Verbraucher nicht hinters Licht geführt werden.“ Bis wann eine entsprechende Prüfung von KI-Systemen möglich sein wird, kann Billen noch nicht absehen. Klar sei nur, dass eine unabhängige Marktüberwachung über den Staat erfolgen soll, um das Vertrauen der Verbraucher für KI zu gewinnen.

Unter Mitwirkung von Unternehmen, die KI bereits einsetzten, hat Bitkom jetzt „Empfehlungen für den verantwortlichen Einsatz von KI und automatisierten Entscheidungen“ veröffentlicht (http://daebl.de/WV87). Zum Thema Gesundheit steht hier, dass bei Entscheidungen, etwa in der medizinischen Diagnostik, die letzte Entscheidungskompetenz bei verantwortlichen Akteuren verbleibe – zumindest solange bis die Steuerungsqualität der KI ein von allen Beteiligten akzeptiertes Niveau erreicht hätte. BMJV-Staatssekretär Billen kann sich jedoch nicht vorstellen, dass eine Zeit kommen wird, in der allein der Roboter die Entscheidungskompetenz eines Arztes übernimmt. Kathrin Gießelmann

Leserkommentare

E-Mail
Passwort

Registrieren

Um Artikel, Nachrichten oder Blogs kommentieren zu können, müssen Sie registriert sein. Sind sie bereits für den Newsletter oder den Stellenmarkt registriert, können Sie sich hier direkt anmelden.

Fachgebiet

Zum Artikel

Anzeige

Alle Leserbriefe zum Thema