Akademiker und Führungskräfte großer Unternehmen, die den Einsatz von leiten künstliche Intelligenz (IA) haben davor gewarnt existenzielle Bedrohung was seiner Meinung nach für die bedeutet Menschheit. In einer nur 22 Wörter umfassenden Erklärung haben Forscher und CEOs darauf hingewiesen, dass die Kontrolle über dieses Aufkommen entsteht Technologie Priorität haben und ihre Bedeutung mit der von Pandemien oder anderen gleichsetzen Atomkrieg.
„Reduzieren Sie das Risiko von Aussterben „Der Einsatz von KI sollte eine globale Priorität sein, zusammen mit anderen Risiken auf gesellschaftlicher Ebene wie Pandemien und Atomkrieg“, heißt es in dem offenen Brief, der die hypothetische und kritisierte Idee wiederholt, dass, wie in „Terminator‘, die Maschine wird bewusst und tötet uns alle. Die Veröffentlichung deckt nicht ab Klimawandel Priorität hat, und es werden auch keine Maßnahmen zur Minimierung dieser vermuteten Bedrohung vorgeschlagen.
Zu den über 200 Persönlichkeiten, die diese Erklärung unterzeichnet haben, gehören Wirtschaftsführer wie z Sam AltmanGeschäftsführer von OpenAIErfinder von ChatGPT und teilweise im Besitz von Microsoft Ö Demis HassabisCEO von Google DeepMind. Es gibt auch Akademiker wie Informatikprofessoren. Joshua Bengio j Geoffrey Hintonder vor weniger als einem Monat als Vizepräsident für Technik bei zurückgetreten ist Google. Beide wurden mit dem erkannt Premio Turingden Nobelpreis für Informatik, für seine Arbeit an tiefes Lernen („Deep Learning“), die Technologie dahinter IA.
kontroverse Debatte
Mit dem Brief soll „die Diskussion“ über die „größten Risiken“ einer noch in der Entwicklung befindlichen Technologie eröffnet werden, eine komplexe Debatte, die bereits zu mehreren Kontroversen geführt hat. Mehrere dieser Unterzeichner veröffentlichten Ende März einen weiteren Brief, in dem sie darum baten, das Training der fortschrittlichsten KI-Systeme für sechs Monate auszusetzen. Allerdings prangern kritische Fachexperten an, dass diese vermeintlichen Zukunftsrisiken der KI weiterhin bestehen Science-Fiction und dass das Reden über sie dazu dient, die tatsächlichen Auswirkungen zu verschleiern, die diese Technologie sowohl in Arbeitsangelegenheiten als auch in ihrem Potenzial bereits hat Desinformation oder Ihren Wasser- und Stromverbrauch.
Auch andere Experten stehen dieser jüngsten Warnung skeptisch gegenüber. „Man muss sich ganz klar darüber im Klaren sein, dass KI keine ontologische Einheit hat, um der Menschheit ein Ende zu setzen. Eine andere Sache ist, dass jemand sie dafür programmiert hat, aber da wäre das Problem die Person, nicht die Technologie“, erklärte er EL PERIÓDICO Ulises Cortes, wissenschaftlicher Koordinator für Hochleistungs-KI am Barcelona Supercomputing Center. „Die meisten Unterzeichner sind mit KI-Tools reich geworden, indem sie den ‚Hype‘ verkaufen und sich die Daten anderer Leute zunutze machen“, fügt er hinzu.
Für diesen und andere Forscher ist es schwierig, KI mit Atomwaffen gleichzusetzen. „Die Pandemie und der Atomkrieg sind zwei Gefahren, die auf theoretischen und empirischen Beweisen beruhen, während das Risiko des Aussterbens der Menschheit verschwommen, völlig ungewiss ist und auf hypothetischer Superintelligenz basiert, für die es keine Beweise gibt“, bemerkt er. Ariel Guersenzvaig, ELISAVA-Professor, Experte für Designethik und -technologie. „Wir haben nicht darum gebeten, die Physik zu mildern, weil sie die Entstehung der Atombombe ermöglicht hat“, fügt Cortés hinzu.
Ablenkungsmanöver
Obwohl die meisten Unterzeichner Amerikaner sind, gibt es auf der anderen Seite des Atlantiks auch viele Stimmen, die dieser Art von apokalyptischer Aussage kritisch gegenüberstehen. „Wenn die KI-Brüder „Seht euch ein Monster an!“ schreien, um alle von ihren Praktiken abzulenken (Datendiebstahl, Energieverschwendung, Eskalation von Vorurteilen, Verschmutzung des Informationsökosystems), sollten wir es wie Scooby-Doo machen und ihnen die Maske abnehmen“, ha fallen Emily BenderProfessor für Computerlinguistik an der University of Washington.
In den letzten zwei Wochen ist Altman vor dem US-Senat erschienen und hat eine Tour durch Europa unternommen, bei der er die Behörden befragt hat – darunter auch den spanischen Präsidenten Pedro Sanchez und sein französischer Amtskollege Emmanuel Macron– Schaffung eines Gremiums zur Überwachung der Sicherheit von KI-Projekten. Wie auch andere darauf hingewiesen haben, sieht Guersenzvaig in diesen Anfragen des Erfinders von ChatGPT eine „kriminelle Strategie“, um die Zukunft zu beeinflussen und abzumildern Verordnung der Tools, die sie einsetzen. „Sie bringen uns dazu, über Technologie zu reden und nicht darüber, wer sie zu welchem Zweck nutzt“, fügt er hinzu. Angesichts des hypothetischen Aussterbens der Menschheit werden alle anderen Gefahren verschwindend gering erscheinen.
