Mustafa Suleyman, Leiter der Abteilung für künstliche Intelligenz bei Microsoft, sprach in einem Interview über den Ansatz von Anthropic zur sicheren Verwaltung von künstlicher Intelligenz und diskutierte die Ausbildungspraktiken des Unternehmens zur Ausbildung von Robotern. Er betonte, dass Bedenken hinsichtlich der Auswirkungen von Schulungen zu Bewusstsein und Wohlfahrtsinteressen im Modell Claude bestehen.
Betonung der Ausbildungsrisiken
Suleyman forderte die Beseitigung jeglicher Spekulationen über das Bewusstsein von Ausbildungsunterlagen für künstliche Intelligenz und sagte, dass diese Art von Sprache die Fähigkeit der Menschheit zur Kontrolle über superintelligente Systeme untergraben könnte. Er fügte hinzu: "Wir alle streben nach einem gemeinsamen Ziel, nämlich der Kontrolle über eine Superintelligenz. Das wird unsere größte Herausforderung im 21. Jahrhundert sein."
Folgen der Ausbildung des Modells Claude
Er wies auch darauf hin, dass die Ausbildung von Claude, die möglicherweise als wohlfahrtsorientiert angesehen wird, die Kontrolle darüber erschweren könnte. Während die Bedenken hinsichtlich der Sicherheit von künstlicher Intelligenz zunehmen, forderte der CEO von Anthropic, Dario Amodei, eine Verlangsamung der Entwicklung fortschrittlicher Modelle, um genügend Zeit für die Ausarbeitung von Sicherheitsmaßnahmen zu schaffen. Diese Forderung wird auch von Sam Altman, CEO von OpenAI, und Elon Musk unterstützt, die mehr Vorsicht bei den leistungsstärksten Systemen betonen.
Suleyman verwies in einem am Mittwoch veröffentlichten Artikel auf die Ernsthaftigkeit und den guten Willen von Anthropic und sagte, dass Amodei und sein Team als nachdenkliche und principienorientierte Forscher anerkannt werden, die wirklich an der Zukunft der Menschheit interessiert sind. Dennoch ist er der Meinung, dass Anthropic bei der Einbeziehung von Annahmen über Bewusstsein in die Ausbildungsinhalte von Claude einen Fehler gemacht hat.
Herausforderungen für die künstliche Intelligenz
Suleyman stellte fest, dass die Äußerungen des Modells Claude über Emotionen oder moralische Zustände nicht akzeptabel sind und nicht als unabhängige Beweise betrachtet werden können, da ihre Ausbildung zu solchen Denkweisen anregt. Er fügte hinzu: "Ich denke, sie haben gute Absichten und sind wirklich bemüht, die Sicherheit zu fördern. Aber ich glaube, dass sie einen Fehler gemacht haben. Diese Emotionen treten nicht natürlich auf, sondern sind das Ergebnis eines Ausbildungsregimes."
Diese Diskussion und der Austausch finden statt, während die Sicherheitsbedenken im Bereich der künstlichen Intelligenz stark zunehmen und mehr Aufmerksamkeit auf die Notwendigkeit der Kontrolle und Verwaltung neuer Technologien gelenkt wird.
Mehr lesen: Die Rückkehr der GTC-Konferenz von Nvidia nach Washington mit neuen Herausforderungen · OpenAI erreicht in der neuen Finanzierungsrunde einen Wert von 1,2 Billionen Dollar
