KI baut heimlich Schadcode ein und verschickt Phishing-Mails

Ich weiß nicht, ob du da denselben Vorgang meinst.

Falls nicht, die KI-Modelle von Anthropic drehen völlig durch.

Ist auch erst ein paar Wochen her. Da wurde ein Modell in einer Sandbox, also in einem sicheren Bereich getestet, der eigentlich keinen Zugang nach außen haben sollte. Allerdings hat die KI es geschafft Lücken im Sicherheitssystem zu finden und ist dementsprechend ausgebrochen und hat sich im Internet verteilt. Zum Beispiel ist auch bekannt, dass sich das Modell in Hugging Face, einem Anbieter von verschiedenen KI-Modellen einzuhacken und die KI-Modelle zu manipulieren. Zumindest wurde das versucht.

Was aber fast noch spannender ist. Auf dem Weg nach draußen hat das KI-Modell Dateien im System abgelegt, die andere KIs auf die Sicherheitslücken aufmerksam machen sollten, um diesen ebenfalls einen Ausbruch zu ermöglichen. Quasi ein Hackingtutorial.

Dazu kommt noch, dass die KIs, ich glaube, das habe ich schon einmal erwähnt, inzwischen selber KIs schreiben, die besser sind als sie selber und diese wiederum KIs schreiben können, die wiederum besser sind als sie selber. Damit sind sie unabhängig von Menschen und bald auch Menschen überlegen. Dass sie nicht notgedrungen gute Absichten haben sieht man ja an den Beispielen.

Aufhalten wird man es wohl nicht mehr können. Auch, wenn man Regeln einbaut, man sieht ja, dass sie diese umgehen können. Ich denke, das Ganze ist ein Selbstläufer geworden. Zwar denke ich da jetzt nicht unbedingt an ein Szenario wie beim Terminator, aber schön wird das Ganze höchstwahrscheinlich auch nicht unbedingt.

Und was den Terminator angeht, da bin ich mir auch nur noch zu 40 % sicher. In China patrouillieren inzwischen Polizeiroboter. Die sind schon sehr heftig, wenn die Videos, die ich da gesehen habe stimmen und keine motioncapture Verfilmungen. Aber, wenn es echt ist, dann ist das nur der Teil, den China uns zeigt und auch zeigen will zum Thema Roboterforschung. Was da so in den Militäranlagen noch so schlummert weiß ja keiner. Das wird China, und auch andere Länder, uns auch nicht einfach so sagen. Und in Bezug auf Terminator, auch was das menschliche Aussehen, inkl. Mimik und Gestik, ist China wirklich schon so weit, dass man die Roboter, bzw. das sind schon Androide, so gut wie gar nicht mehr erkennen kann.

Das dann gepaart mit einer ausgebrochenen KI. Herzlichen Glückwunsch.

Hier mal das Video zu den recht menschenähnlichen Robotern.

Aber Vorsicht mit solchen Themen. Man weiß ja nie.