„Die KI kann rechnen, aber entscheiden muss der Mensch“, erklärt Maximilian Kiener vom Institut für Ethik in der Technologie an der Technischen Universität Hamburg. In einer Zeit, in der Künstliche Intelligenz (KI) in Bereichen wie autonomem Fahren, Bildbearbeitung und medizinischen Auswertungen boomt, warnen Experten vor einem unreflektierten Einsatz dieser Technologien.
Die Möglichkeiten, die KI bietet, scheinen nahezu unbegrenzt. Ob bei Karriereentscheidungen oder als Unterstützung in therapeutischen Kontexten – viele Nutzer vertrauen auf die vermeintlich richtigen Antworten, die Künstliche Intelligenz liefert. Doch Kiener warnt: „Diese Menschlichkeit ist eine gefährliche Illusion, der viele Anwender zu oft Glauben schenken.“ Er betont, dass es bei komplexen Fragen wie der Wahl eines Karrierewegs keine einfachen Antworten gibt und dass solche Entscheidungen nicht in das Format von KI gepresst werden sollten.
Die Grenzen der KI
Bei Themen wie Einsamkeit oder Bildung handelt es sich oft um soziale Fragestellungen, die nicht einfach technisch gelöst werden können. Kiener sieht in vielen aktuellen KI-Anwendungen keine echten Innovationen. „Dinge, die nur neu sind, sind keine Innovation. Ich tue mich beispielsweise sehr schwer, Deepfake-Bilder von Kindern, die möglicherweise sexualisiert dargestellt werden, als Innovation zu erkennen“, so Kiener.
Er ist überzeugt, dass Ethik nicht die Entwicklung von KI bremst, sondern sie erst wirklich nützlich für die Menschen macht. Optimal sei eine Zusammenarbeit zwischen Mensch und KI von Anfang an, um gemeinsam Lösungen zu finden.
Der sokratische Chatbot
Matthias Uhl, Professor für Wirtschafts- und Sozialethik an der Universität Hohenheim, hat einen sokratischen Chatbot entwickelt, der sich von herkömmlichen KI-Systemen unterscheidet. „Die sokratische KI stellt Fragen und hilft mir, meine eigenen Lösungen zu finden, anstatt mir direkte Antworten zu geben“, erklärt Uhl.
Ein Team der Universität Hohenheim und der Universität Bamberg hat dieses Sprachmodell in mehreren Experimenten getestet. Das Ergebnis zeigt, dass der angepasste Chatbot den Nutzern helfen kann, moralisch ausgewogenere Entscheidungen zu treffen. Dennoch stellte das Team eine Herausforderung fest: „Die rückfragende KI wird weniger gerne gewählt. Wenn man den Leuten die Wahl lässt, bevorzugen sie oft direkte Ratschläge“, so Uhl. Zukünftig soll ein ansprechendes Design die Nutzung des Chatbots attraktiver gestalten.
Fachleute und ihre Skepsis
Während private Nutzer oft schnell Vertrauen in Künstliche Intelligenz setzen, zeigen sich Fachleute, insbesondere im medizinischen Bereich, häufig skeptisch. Obwohl KI-Systeme in der Lage sind, Röntgenbilder schnell und zuverlässig auszuwerten, haben viele Mediziner Schwierigkeiten, sich auf diese Technologie einzulassen.
Eine Studie hat ergeben, dass Experten, die viel über ein Thema wissen, die Analysen von KI unterschätzen, auch wenn diese genauer sind. Uhl sieht jedoch Potenzial in einer neuen KI, die ihre Unsicherheit offenlegt. „Wenn das System seine Unsicherheit kommuniziert, kann das dazu führen, dass der Empfänger dem Rat mehr Vertrauen schenkt, insbesondere wenn es sagt, dass es sich bei einer Klassifikation zu 90 Prozent sicher ist“, erklärt Uhl.
Bereits im kommenden Jahr sollen Fachleute aus der Medizin die Möglichkeit haben, das neue KI-System zu testen.
Quellen: tagesschau
