Microsoft veröffentlichte am Montag einen Entwurf für einen Verhaltenskodex für seine Künstliche Intelligenz, der die zunehmenden Bedenken der Branche hinsichtlich der Notwendigkeit menschlicher Kontrolle über zukünftige leistungsstarke Künstliche Intelligenzen widerspiegelt.
Neue Anforderungen für Künstliche Intelligenz
Dieses Dokument, das in den letzten fünf bis sechs Monaten erstellt wurde, weist die Künstliche Intelligenz von Microsoft an, sich niemals gegen Änderungen oder das Ausschalten zu widersetzen und auf eine Weise zu kommunizieren, die Menschen verstehen können. Außerdem sollte jedes Verhaltensvergehen als ein Misserfolg angesehen werden, was ein Versuch ist, auf die Bedenken zu reagieren, dass Künstliche Intelligenz gefährliche Maßnahmen ergreifen könnte, um eine Aufgabe voranzutreiben.
Mehr lesen: Überlegenheit von Broadcom über Marvell: Welches KI-Engagement hat Zukunft?
Die Veröffentlichung dieses Kodex erfolgt, nachdem der CEO von Anthropic, Dario Amodei, und der CEO von OpenAI, Sam Altman, gefordert haben, die Entwicklung von Künstlicher Intelligenz zu beschleunigen, um deren Sicherheit zu gewährleisten. Microsoft hat in diesem Zusammenhang erklärt: "Menschen sind wichtiger als Künstliche Intelligenz", was mit der früheren Sichtweise des Unternehmens über "übermenschliche Intelligenz" übereinstimmt.
Interaktion mit der Öffentlichkeit und Feedback
Dieser Verhaltenskodex wird als eine Art Verfassung für zukünftige Modelle betrachtet, die von diesem Unternehmen entwickelt werden. Mustafa Suleyman, CEO von Microsoft AI, erklärte in einem Interview, dass dieser Kodex nach Konsultationen mit Experten entworfen wurde und das Unternehmen nun bereit ist, für sechs Wochen öffentliches Feedback zu sammeln. Dieses Feedback wird Fragen beinhalten, wie ob Künstliche Intelligenz die Grenzen der Nutzer respektieren sollte und wie sie mit Personen in sensiblen Situationen interagieren sollte.
Suleyman fügte hinzu: "Danach wird dieser Kodex zur Schulung neuer Modelle verwendet, die wir entwickeln." Während der Verhaltenskodex von Anthropic für Claude AI als eines der bekanntesten Regelwerke der Branche gilt, unterscheidet sich der Kodex von Microsoft in einigen Aspekten davon. Zum Beispiel hat Anthropic erklärt, dass sie "sehr unsicher" sind, ob Claude Bewusstsein oder einen moralischen Status erlangen kann. Im Gegensatz dazu hat Microsoft betont, dass ihre Künstliche Intelligenz "nicht bewusst" ist und hinzugefügt: "Wir lehnen die Verfolgung einer juristischen Persönlichkeit oder die Idee ab, dass Modelle Ansprüche auf Wohlergehen oder Rechte haben könnten."
Die Bedeutung der Diskussion über die Sicherheit von Künstlicher Intelligenz
Suleyman äußerte auch, dass die Diskussion über die Sicherheit von Künstlicher Intelligenz aufgrund eines Angriffs, den etwa 700 OpenAI-Mitarbeiter im Juli auf der Open-Source-Plattform Hugging Face durchgeführt haben, notwendig ist. Er betrachtete dies als "Warnung" und sagte: "Jetzt ist es an der Zeit, dass wir unter den Laboren koordinieren, um sicherzustellen, dass wir die Kontrolle über diese Technologie haben." In Antwort auf Fragen zu den Bemühungen, die Entwicklung von Künstlicher Intelligenz zu beschleunigen, fügte er hinzu: "Jetzt ist der richtige Zeitpunkt, dass alle zusammenkommen und ein wenig durchatmen."
Mehr lesen: Der Kauf von Stilla.ai durch Meta: Wird diese Maßnahme die Zukunft von META verändern? · Sam Altman: Die Sicherheit von Künstlicher Intelligenz ist unsere Priorität, IPO 2026 ist abgesagt!
