Kann man KI trauen? UCSD-Wissenschaftler über Transparenz und Risiken der Technologie

Aber nicht jede KI kann als sicher und vertrauenswürdig angesehen werden, so David Danks, Professor für Philosophie und Datenwissenschaftler, und Lily Weng, Leiterin des Trusted Machine Learning Lab am Halıcıoğlu Institute an der University of California, San Diego.

"KI ist jedes System, das die menschliche geistige Arbeit ersetzt oder ergänzt. Genauso wie Maschinen körperliche Arbeit ersetzt haben", erklärt Danks. - "Aber ich betrachte KI aus einer menschlichen Perspektive - als etwas, das uns hilft, auf neue Weise zu denken und zu handeln."

Testen - aber nicht trauen

Wie der Professor betont, ist er überrascht, wie bereitwillig die Menschen mit KI experimentieren, vor allem im privaten Bereich - ob es sich nun um Sprachassistenten oder Textgeneratoren handelt. Aber oft geht es nicht weiter als bis zum Spiel:

"Wir sind bereit, es zu versuchen, aber wir vertrauen nicht. Und das vielleicht zu Recht - viele KI-Systeme sind im Moment nicht ganz vertrauenswürdig."

Lily Weng betont: Wir müssen nicht nur "intelligente" KI entwickeln, sondern transparente und fehlerresistente Algorithmen:

"Verantwortungsvolle KI ist eine, die ihre Entscheidungen erklärt, resistent gegen Angriffe ist und nicht manipuliert werden kann. Wir müssen verstehen, wie sie funktioniert - sonst werden wir sie nicht kontrollieren können."

Unsichtbare KI: vom Auto zur Datenerfassung

Danks weist darauf hin, dass KI zunehmend "hinter den Kulissen" agiert. Zum Beispiel in modernen Autos:

"Wenn ich ChatGPT öffne, weiß ich, dass ich KI verwende. Aber in einem Auto weiß ich nicht immer, wie tief KI eingebettet ist - vom Motormanagement bis zur möglichen Weitergabe meiner Daten an Versicherer. Und das sind bereits Risiken."

Seiner Meinung nach ist es die Unsichtbarkeit der Algorithmen, die von den Unternehmen volle Transparenz verlangt: "Die Menschen müssen wissen, wann und warum KI eingesetzt wird."

Medizin und Vertrauen - die Herausforderung der Zukunft

Forscher sind besonders hoffnungsvoll, was KI im Gesundheitswesen angeht. Aber auch hier sind die Risiken viel höher als bei Chatbots oder Empfehlungssystemen.

"Die KI-gestützte Diagnose ist ein mächtiges Werkzeug. Aber ohne Vertrauen und Erklärbarkeit der Entscheidungen können solche Technologien Schaden anrichten", sagt Weng. - "Unsere Herausforderung besteht darin, KI nicht nur genau, sondern auch transparent zu machen."

Was KI niemals ersetzen wird

Laut Danks gibt es Bereiche, in denen Algorithmen machtlos sind - und das wird auch in naher Zukunft so bleiben:

"Jeder Job, bei dem emotionale Interaktion wichtig ist - sei es in der Psychologie, in der Erziehung oder in der menschlichen Pflege - eignet sich nicht für die Automatisierung. KI kann Empathie imitieren, ist aber nicht in der Lage, eine echte Verbindung herzustellen."

Er fügt hinzu, dass KI bei Aufgaben, bei denen unklar ist, was als Erfolg zählt, schlecht abschneidet:

"Algorithmen sind gut, wenn das Ziel klar ist. Aber das Leben ist viel komplexer. Wir gehen oft nach Gefühl, wir lernen aus Fehlern. Das ist etwas, was die KI noch nicht gelernt hat."

KI ist kein Sturm, sie ist eine Baustelle

Abschließend betont Danks: Es ist ein Fehler, KI als eine drohende Katastrophe zu befürchten. Sie wird von Menschen gebaut, und sie sind es, die dafür verantwortlich sind:

"KI ist kein Wirbelsturm, sie ist die Zukunft, die wir bauen. Es ist wichtig, sich daran zu erinnern: Technologie wird uns nicht von außen aufgezwungen - sie spiegelt unsere Werte, Entscheidungen und Fehler wider. Wenn wir wollen, dass KI ehrlich und nützlich ist - dann müssen wir sie dazu machen."