Eine künstliche Intelligenz vom absichtlichen Schummeln und Lügen abzuhalten, ist schwieriger als erwartet, wie Forscher von OpenAI feststellen mussten. #OpenAI #KI #kuenstlicheIntelligenz #AI #Reasoning
https://www.scinexx.de/news/technik/ist-betruegerische-ki-noch-kontrollierbar/
@schenklklopfer
Sehe ich auch so:
Eine KI (LLM), die einen Unschuldigen des Mordes an einem Kind bezichzigt, ist kein vertrauenswürdiges Instrument!
Das darf dann auch nicht mit einem
"Oops ... hihi, sorry!"
durchgehen!
@scinexx @c0c0bird
@schenklklopfer @scinexx Oder Führerscheinpflicht einführen. Ein KI-System kann man nur konstruktiv nutzen, wenn man in der Lage ist, dieselbe Aufgabe mit mehr Zeit auch selbst zu lösen. Nur dann kann man das Ergebnis überprüfen.
So wie man für Maschinen und Fahrzeuge bestimmte Führerscheine braucht, sollte man auch für unterschiedliche KI-Systeme je einen Führerschein machen.
@scinexx Wundert mich kaum, wo die KI doch alles, was sie kann, von Menschen gelernt hat.