Nobelpreisträger alarmiert über die Entwicklung der KI, die er selbst mitgestaltet hat

In seiner Rede vor einem Publikum an der Princeton University, die er per Videolink aus Großbritannien verfolgte, sagte der 91-jährige Professor , dass er in seinem Leben den Aufstieg von zwei mächtigen, aber potenziell gefährlichen Technologien miterlebt hat: die Biotechnologie und die Kernphysik.

Wir sind an Technologien gewöhnt, die sowohl nützlich als auch schädlich sein können", sagte Hopfield. - Als Physiker bin ich sehr besorgt darüber, dass wir keine vollständige Kontrolle und kein vollständiges Verständnis haben, vor allem wenn wir nicht wissen, welche Beschränkungen der Technologie auferlegt werden können.

Er betonte, dass die derzeitigen KI-Systeme zwar wie "absolute Wunder" aussehen, aber nach Prinzipien arbeiten, die die Wissenschaftler nicht vollständig verstehen.

Das ist sehr, sehr beunruhigend", fügte er hinzu.

Er ist der Meinung, dass das Innenleben von tiefen neuronalen Netzen weiter erforscht werden muss, um zu verhindern, dass die KI möglicherweise außer Kontrolle gerät.

John Hopfield ist bekannt für die Entwicklung des "Hopfield-Netzwerks", eines theoretischen Modells, das zeigt, wie ein künstliches neuronales Netzwerk den Prozess der Gedächtnisspeicherung und -abfrage im biologischen Gehirn nachahmen kann. Seine Arbeit wurde zur Grundlage für die weitere KI-Forschung.

Der britisch-kanadische Wissenschaftler Geoffrey Hinton, der oft als "Pate der KI" bezeichnet wird, entwickelte Hopfields Modell weiter, indem er ein Element des Zufalls in die "Boltzmann-Maschine" einführte. Dies ebnete den Weg für moderne KI-Anwendungen wie z.B. Bildgeneratoren.

Geoffrey Hinton äußerte auch seine Bedenken über die Zukunft der KI.

Es gibt nur sehr wenige Beispiele dafür, dass intelligentere Wesen von weniger intelligenten Wesen kontrolliert werden", sagte der 76-jährige Professor auf einer Pressekonferenz an der Universität von Toronto. Das wirft die Frage auf: Wenn die KI intelligenter wird als wir, wird sie dann nicht die Kontrolle übernehmen?

Hopfield verglich die Situation mit einem Science-Fiction-Szenario aus Kurt Vonneguts Roman Die Wiege der Katze, in dem eine künstlich erzeugte Substanz zum Tod der Zivilisation führt.

Mich beunruhigt alles, was sagt: 'Ich bin schneller als du, ich bin größer als du...'. Können wir friedlich koexistieren? Ich weiß es nicht, ich bin besorgt", bemerkte er.

Beide Wissenschaftler fordern mehr Forschung zur Sicherheit von KI.

Wir brauchen dringend mehr Forschung, um zu verstehen, wie wir Katastrophenszenarien vermeiden können", betonte Hinton.

Er schlug vor, dass die besten jungen Forscher an der KI-Sicherheit arbeiten sollten und dass die Regierungen die großen Unternehmen verpflichten sollten, die notwendigen Rechenressourcen für diese Forschung bereitzustellen.