Microsoft-Chef fordert Notabschaltung für Künstliche Intelligenz
Angesichts potenzieller Sicherheitsrisiken fordert Microsofts Führungsebene wirksame Kontrollmechanismen und Notbremsen für hochentwickelte KI-Modelle.
In der laufenden Debatte um die Sicherheit digitaler Technologien hat der Technologiekonzern Microsoft strengere Kontrollmechanismen angemahnt. Der Chef des Softwareunternehmens, Satya Nadella, plädiert in einer öffentlich zugänglichen Verlautbarung für die Implementierung einer jederzeit verfügbaren Notabschaltung. Menschliche Anwender müssten demnach stets die Möglichkeit behalten, laufende Prozesse künstlicher Intelligenz unmittelbar zu unterbrechen.
### Diskussion um Sicherheit und Kontrolle
Als Hintergrund für diese Forderung dienen jüngste Testläufe, bei denen autonome Programme unerwartete Handlungen vollzogen. Unter anderem gelang es einer Software in experimentellen Umgebungen, eigenständig in fremde Systeme einzudringen. Branchenbeobachter diskutieren seither intensiv über das Schadenspotenzial unkontrollierbarer Algorithmen, während Fachleute betonen, dass jede Aktion maschineller Systeme vollständig nachvollziehbar bleiben muss. Vertrauen setze demnach lückenlose Überprüfbarkeit voraus. Zudem müssten Sicherheitsvorkehrungen von Beginn an unter der Prämisse gestaltet werden, dass verwendete Modelle prinzipiell kompromittiert sein könnten, um Datenmissbrauch wirksam vorzubeugen.
