Forderung nach strengeren Gesetzen für die DNA-Synthese
Die Führungskräfte führender KI-Unternehmen drängen die US-Gesetzgebung dazu, neue Regeln zu verabschieden. Ziel ist es, es böswilligen Akteuren zu erschweren, biologische Waffen mithilfe moderner Technologie zu entwickeln. Sam Altman von OpenAI, Dario Amodei von Anthropic, Demis Hassabis von Google DeepMind und Mustafa Suleyman von Microsoft AI sind unter den Unterzeichnern eines Briefes, der vom Institute for Progress und der Foundation for American Innovation organisiert wurde. Die Unterzeichner fordern Gesetze, die Unternehmen, die synthetische DNA und RNA verkaufen, dazu verpflichten, Kunden und Bestellungen zu prüfen, um den Missbrauch von genetischem Material zu verhindern.
Das Risiko der Umgehung von Sicherheitskontrollen
Der Brief weist darauf hin, dass das rasante Tempo der KI-Entwicklung dazu führen könnte, dass die Wissensbarrieren, die bisher die Beschaffung biologischer Waffen verhinderten, bedeutsam erodieren. Ein Beispiel für die Risiken der DNA-Beschaffung war das Jahr 2017, als kanadische Forscher das ausgestorbene Pferdpockenvirus mithilfe von DNA im Wert von 100.000 US-Dollar aus dem Postversand rekonstruierten. Kritiker warnten damals, dass dieselbe Methode auch für den Pockenvirus genutzt werden könnte.
Mit dem Fortschritt der KI wird es möglich, gefährliche neue Toxine und Pathogene zu entwerfen, auch wenn für die Herstellung eines funktionalen Virus von Grund auf wahrscheinlich noch biologisches Training erforderlich bleibt.
wp:quote
KI-Tools ermöglichen es einem Nutzer, sehr schnell herauszufinden, wo man Sequenzen bestellen kann, die keiner Überprüfung unterliegen. Wenn man sie entsprechend auffordert, können sie einem auch sagen, wie man die Art der Bestellung ändert, sodass selbst diejenigen, die eine Überprüfung durchführen, viel weniger in der Lage sind zu erkennen, was man herzustellen versucht.
David Relman, Mikrobiologe und Experte für Biosicherheit an der Stanford University
Industrielle Standards und die Rolle von Konsortien
In der Branche gibt es bereits Bemühungen zur Selbstregulierung. Unternehmen wie Twist Bioscience und Ansa Biotechnologies sind Mitglieder des International Gene Synthesis Consortium, das bereits 2009 gegründet wurde, um freiwillige Screening-Praktiken einzuführen. Viele Anbieter nutzen bereits Software, um Bestellungen auf „Sequenzen von Interesse“ zu prüfen, die zur Toxizität oder zur Erhöhung der Krankheitsfähigkeit eines Organismus beitragen könnten.
Ethische Grenzen beim Einsatz von KI in der Forschung
Während die Sicherheitsrisiken im Fokus stehen, wird auch über die ethische Nutzung von KI in der wissenschaftlichen Arbeit diskutiert. Laut einem Beitrag von Stef van Grieken auf LinkedIn kann KI in der Forschung hilfreich sein, etwa um Forschungsthemen zu finden oder Literaturübersichten zu erstellen, wobei spezifische KIs bis zu 40 Artikel für eine Übersicht synthetisieren können. Auch die Datenanalyse mittels Python oder R Studio wird als Einsatzgebiet genannt. Dennoch wird betont, dass das Kopieren von KI-generierten Inhalten, wie etwa Einleitungen oder anderen Teilen wissenschaftlicher Texte, unethisch ist und zur Rücknahme von Arbeiten in Fachzeitschriften führen kann.
