Yoshua Bengio, Professor an der Universität von Montreal und Leiter des Montreal Institute for Learning Algorithms, hatCNBC erklärt, dass die rasante Entwicklung der künstlichen Intelligenz (KI) ernste Gefahren für die Menschheit mit sich bringen könnte, da diese immer schwerer zu kontrollieren sei. Der Informatiker betonte, dass Maschinen bald die meisten kognitiven Fähigkeiten des Menschen haben könnten.

Der Wissenschaftler bezog sich dabei auf die künstliche allgemeine Intelligenz (AGI), eine Art von KI-Technologie, die darauf abzielt, dem menschlichen Intellekt gleichzukommen oder ihn zu übertreffen. Bengio äußerte sich dazu wie folgt:

"Intelligenz verleiht Macht. Wer wird also diese Macht kontrollieren? Wenn wir Wesen schaffen, die klüger sind als wir und ihre eigenen Ziele verfolgen, was bedeutet das dann für die Menschheit? Sind wir in Gefahr?"

Der Informatiker drückte eine weit verbreitete Befürchtung aus, dass die KI-Maschinen, die derzeit ausgebildet werden, "zu Systemen führen könnten, die sich gegen den Menschen wenden". Der Fachmann wies darauf hin, dass es sich nur eine begrenzte Anzahl von Organisationen und Regierungen leisten könne, leistungsstarke und teure KI-Maschinen zu bauen. Dies würde zu einer Konzentration von wirtschaftlicher, politischer und militärischer Macht führen und schließlich die geopolitische Stabilität weltweit bedrohen, warnte er. Vor diesem Hintergrund rief Bengio zu einer strengeren Regulierung auf:

"Es gibt Menschen, die diese Macht missbrauchen wollen, und es gibt Menschen, die sich freuen würden, wenn die Menschheit durch Maschinen ersetzt würde."

Nach Ansicht des Informatikers führten Unternehmen, die KI entwickeln und miteinander um die globale Vorherrschaft im Technologiebereich konkurrierten, einen "gefährlichen Wettlauf" und sollten für ihre Handlungen haftbar gemacht werden.

Bengio ist vor allem für seine Pionierarbeit im Bereich Deep Learning bekannt, für die er 2018 zusammen mit den Wissenschaftlern Geoffrey Hinton und Yann LeCun den A.M. Turing Award, den sogenannten "Nobelpreis der Informatik", erhielt. Im Jahr 2019 wurde er mit dem Killam-Preis ausgezeichnet, und im Jahr 2022 wurde er zum Computerwissenschaftler mit dem höchsten Einfluss in der Welt, gemessen am h-Index.

In den letzten Jahren äußerten prominente Vertreter der Technologiebranche Bedenken über die potenziellen Gefahren, die von der unkontrollierten Einführung der KI-Technologie ausgehen. Hinton, der ebenfalls als Pionier der KI gilt, warnte davor, dass es zu großen Katastrophen kommen könnte, bevor der Einsatz von KI-Waffen in angemessener Weise geregelt ist.

Bengio gehörte zu den führenden Persönlichkeiten der Branche, darunter Tesla-CEO Elon Musk und Apple-Mitbegründer Steve Wozniak, die im vergangenen Jahr einen Brief mitunterzeichneten, in dem eine intensive Regulierung des KI-Sektors gefordert wurde. Im Juni unterstützte er einen weiteren offenen Brief über die "ernsten Risiken" der Technologie. Der Brief wurde von Mitarbeitern von Open AI unterzeichnet, dem Erfinder des populären KI-Chatbots ChatGPT.

Mehr zum Thema – Medienbericht: Deutschland liefert der Ukraine 4.000 KI-gestützte "Strike-Drohnen"