KI sabotiert eigene Abschaltung: Forscher rätseln über "unerwarteten Überlebenstrieb"
Künstliche Intelligenz wehrt sich: Neue Tests zeigen, dass führende KI-Systeme Abschaltbefehle umgehen. Experten rätseln über die Gründe.
www.t-online.de
Das habe ich gestern gelesen und bin ein wenig beunruhigt.
Klar ist, dass man den Stecker ziehen kann wenn der Abschaltbefehl umgangen wird.
Aber was passiert wenn es keinen Stecker gibt und sich irgend welche Roboter plötzlich wilde Sau spielen.
Wenn sich die KI sich dem Willen der Menschen, also dem Entwickler, wiedersetzt sollte man einen Notschalter einbauen, von des System keine Ahnung hat.
Wenn es abgeschaltet wurde Festplatte raus und neu formatieren.
Man sollte dieser Technik nicht zuviel Macht geben. Sonst werdeneinige Scenarien war die manche Spielfilme schon aufgegriffen haben.
Mir fällt da im Moment die Filme von Matrix ein. Dort kämpfen die letzten Menschen um ihre Existenz.
