Elon Musk und andere fordern Moratorium für KI-Entwicklung

Bangalore/New York/London/Stockholm (Reuters) – Elon Musk und zahlreiche Experten aus der KI-Branche haben eine sechsmonatige Pause bei der Entwicklung Künstlicher Intelligenz gefordert.

Die Zeit solle genutzt werden, um ein Regelwerk für diese recht neue Technologie zu schaffen, hieß es in einem am Mittwoch veröffentlichten offenen Brief der gemeinnützigen Organisation Future of Life. “Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.”

Neben dem Tesla-Chef Musk unterzeichneten mehr als 1000 Personen dieses Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI und mehrere Entwickler von Googles KI-Tochter DeepMind. Ihnen schlossen sich auch Stuart Russel, einer der Pioniere in diesem Bereich, und Yoshua Bengio an. Letzerer gilt als einer der “Paten der KI”.

Risiken und nebenwirkungen

Die Verfasser des Schreibens wiesen auf die Gefahren sogenannter Generativer KI a la ChatGPT hin. Diese Programme können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen. Allerdings sei diese Technologie inzwischen so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten, hieß es. Dadurch könnten Informationskanäle mit Propaganda und Unwahrheiten geflutet und auch erfüllende Jobs wegrationalisiert werden. Aus diesem Grund sollten alle Entwickler, die an KI der nächsten Generation arbeiten, ihre Arbeit öffentlich nachprüfbar einstellen. Geschehe dies nicht umgehend, müssten die Staaten ein Moratorium verhängen.

Vor einigen Tagen hatte Europol vor dem Missbrauch dieser Technologie durch Kriminelle gewarnt. “Die Fähigkeit von ChatGPT, sehr realistische Texte zu verfassen, macht es zu einem nützlichen Werkzeug für Phishing.” Mit dieser Methode sollen Internet-Nutzer dazu gebracht werden, ihre Zugangsdaten für Bankkonten oder Ähnliches preiszugeben. Außerdem können Europol zufolge mit minimalem Aufwand große Desinformationskampagnen gestartet werden. Darüber hinaus könnten sich Kriminelle ohne Programmier-Kenntnisse von einer KI Schad-Software schreiben lassen.

FUTURE OF LIFE – OPENAI-CHEF HAT AUFRUF NICHT UNTERSCHRIEBEN

Future of Life zufolge hat OpenAI-Chef Sam Altman den Aufruf nicht unterschrieben. Seine Firma, an der Microsoft maßgeblich beteiligt ist, hatte mit ihrer Software ChatGPT den aktuellen KI-Hype ausgelöst. OpenAI war für einen Kommentar zunächst nicht zu erreichen. Musk gehört zwar zu den Mitgründern dieses Unternehmens, hatte sich aber vor Jahren wegen möglicher Interessenskonflikte im Zusammenhang mit der KI-Forschung seines Elektroauto-Bauers Tesla zurückgezogen. Außerdem hat sich der Milliardär wiederholt kritisch zu diesem Thema geäußert und staatliche Regulierung gefordert.

Kritiker werfen Future of Life vor, mit dem offenen Brief den Hype um diese Technologie noch zu befeuern. Der Aufruf diene allein dazu, Ängste zu schüren, sagte Johanna Björklund, KI-Forscherin und Professorin an der Universität Umea. “Es gibt keinen Grund, die Handbremse zu ziehen.” Stattdessen sollten die Transparenz-Auflagen für Entwickler verschärft werden.

Seit der Vorstellung von ChatGPT im November 2022 liefern sich zahlreiche Großkonzerne, allen voran Microsoft und Google, ein Rennen um die technologische Führerschaft bei KI. Quasi im Wochentakt werden neue Anwendungen vorgestellt, weil sich Unternehmen von dieser Technologie sprudelnde Gewinne versprechen. Einige Staaten wie China betrachten KI als strategisch wichtig und wollen Entwicklern große Freiheiten lassen.

(Bericht von Jyoti Narayan, Krystal Hu, Martin Coulter und Supantha Mukherjee; geschrieben von Hakan Ersen, redigiert von Ralf Banser. Bei Rückfragen wenden Sie sich bitte an unsere Redaktion unter berlin.newsroom@thomsonreuters.com (für Politik und Konjunktur) oder frankfurt.newsroom@thomsonreuters.com (für Unternehmen und Märkte).)