News
Laut Studie: Laien vertrauen KI zu stark, Experten oft zu wenig

News Laut Studie: Laien vertrauen KI zu stark, Experten oft zu wenig

Quelle: Philip Dulian/dpa
dpa

Chatbots, die fragen statt zu antworten? Forscher testen neue Methoden, damit KI uns nicht unbemerkt lenkt. Was dahintersteckt und was Mediziner davon haben könnten.

Forscher der Stuttgarter Universität Hohenheim haben untersucht, wie Menschen Empfehlungen der Künstlichen Intelligenz bewerten – und sind dabei auf zwei Extreme gestoßen. Denn Laien neigen nach Angaben des Wirtschaftsethikers Matthias Uhl dazu, KI-Systemen bei persönlichen und moralischen Fragen übermäßig zu vertrauen. Fachleute – etwa in der Medizin – seien bei KI-gestützten Empfehlungen hingegen überaus zögerlich.

Uhl zufolge ist es ein Problem, dass die KI oft unbemerkt beeinflusst: «Dabei unterschätzen sie häufig, wie stark die Antworten die eigene Meinungsbildung beeinflussen können», sagt er über Nutzer, die Chatbots für Lebensfragen nutzen. Auf der anderen Seite warnt er vor übertriebener Skepsis: «Wenn es etwa darum geht, Röntgenbilder, MRTs oder andere medizinische Bilder zu beurteilen, ist die KI inzwischen meist besser als jeder Mensch.»

Wissenschaftler testen Chatsbots mit Rückfragen

Als Lösung für beide Probleme setzen Uhl und sein Team auf unterschiedliche Ansätze. Im privaten Bereich erproben sie Chatbots, die nach der sogenannten sokratischen Methode Rückfragen stellen, statt direkte Antworten zu geben – mit dem Ziel, das eigene Wertesystem zu schärfen. In einem Experiment mit Anhängern der US-amerikanischen Republikaner und Demokraten handelten Probanden nach solchen Gesprächen nachweislich fairer.

Für den Einsatz im Fachbereich arbeitet das Team im Projekt «Ethyde» mit dem Bayerischen Forschungsinstitut für Digitale Transformation daran, KI transparenter zu machen – etwa indem sie ihre Diagnosen begründet oder angibt, wie sicher sie sich ist. Bis Ende 2027 sollen erste Prototypen auf Medizinkongressen getestet werden.

 

Weitere Nachrichten

So verbreitet ist das Oben-Ohne-Baden von Frauen

Oben-Ohne-Baden auch für Frauen wird in immer mehr Kommunen in Deutschland erlaubt. Doch wie verbreitet ist es im Südwesten - und inwiefern nehmen Frauen das Angebot überhaupt an?

Adventzeit naht: Diese außergewöhnlichen Weihnachtsmärkte sind einen Ausflug wert

Mittelalterliche Gassen, ein Markt auf dem Münster und ein Weihnachtsmann am Seil: Baden-Württemberg hat in der Adventszeit einiges zu bieten. Welche Orte mit besonderen Erlebnissen locken.

Drohnenprojekt gegen Kormorane soll 2027 ausgeweitet werden

Am Bodensee sollen Drohnen helfen, die Zahl der Kormorane zu begrenzen. Dafür werden ihre Eier mit Öl benetzt. 2027 soll die Methode in einer größeren Brutkolonie getestet werden.

Baden-Württemberg will mehr Geld in Abschiebungen stecken

Der Finanzausschuss hat zusätzliche Mittel für das Asylgrenzverfahren und die Digitalisierung der Migrationsverwaltung beschlossen. Was genau hinter den geplanten Ausgaben steckt.

Internationale Aufmerksamkeit: Warum die "New York Times" auf eine Bodensee-Stadt blickt

Es ist kein schöner Anlass, der Friedrichshafen in die Schlagzeilen einer der bekanntesten Zeitungen der Welt bringt: Die «New York Times» berichtet über ihre wirtschaftlichen Sorgen.

Traktorfahrer stirbt nach Kollision mit Auto bei Karlsbad

Ein Traktorfahrer ist bei der Kollision mit einem Auto in der Nähe von Karlsbad aus seinem Fahrzeug geschleudert und tödlich verletzt worden.






















Auch interessant


Falls Ihnen inhaltliche Fehler oder Fehlfunktionen auffallen, einfach bei redaktion@meinka.de melden.