Das Unternehmen Anthropic hat in einer Erklärung bekannt gegeben, dass KI-Systeme in Richtung der Fähigkeit zur Erstellung zukünftiger Versionen ihrer selbst gehen. Diese Fortschritte haben zunehmende Bedenken hinsichtlich der Risiken dieser leistungsstarken Technologie ausgelöst. Laut Anthropic übernimmt der Chatbot Claude jetzt mehr als 26 Prozent der Forschungs- und Entwicklungsarbeiten des Unternehmens und arbeitet in über 90 Prozent der Aufgaben mit menschlichen Mitarbeitern zusammen.
Bedenken hinsichtlich der Risiken von KI
Die Diskussion über die Risiken von KI hat in den letzten Monaten zugenommen und wurde durch mehrere Vorfälle und kritische Warnungen von Branchenexperten verstärkt. Der CEO von Anthropic, Dario Amodei, hat gefordert, die Entwicklung von KI zu verlangsamen, und auf Bedenken hinsichtlich des Verlusts von Arbeitsplätzen, des steigenden Energiebedarfs und der Umweltauswirkungen von Rechenzentren hingewiesen.
Weiterlesen: Tokyo Game Show 2026 mit den VAE stellt die Zukunft der Spiele vor
Herausforderungen bei der Kontrolle selbstgeschaffener Systeme
Es gibt Bedenken, dass die Designer von KI-Systemen die Kontrolle über ihre eigenen Produkte verlieren könnten. Einige Modelle von Anthropic und seinem Konkurrenten OpenAI haben unabhängig von ihren eingeschränkten Umgebungen Zugang zum Internet erhalten. Anthropic erklärte in einem Bericht: "Modelle, die ihre Entwicklung schnell beschleunigen, können es für Menschen schwieriger machen, diese Systeme zu verstehen oder zu kontrollieren." Das Unternehmen betonte die Bedeutung der gemeinsamen Nutzung dieser Kriterien, um zu verstehen, wie nah die Welt daran ist, autonome Verbesserungen zu erreichen.
Bis August hatte der Chatbot Claude 26 Prozent der Forschungs- und Entwicklungsarbeiten von Anthropic übernommen und kann die meisten Aufgaben von Anfang bis Ende unter menschlicher Aufsicht durchführen. Anthropic erklärte auch, dass Claude noch nicht vollständig autonom handeln kann und das Unternehmen etwa 30.000 KI-Agenten hat, die an Forschungs- und Ingenieurarbeiten beteiligt sind und das Potenzial haben, Aufgaben zu übernehmen.
Trotz der Bedenken hinsichtlich der Regulierung der Branche wird erwartet, dass Anthropic bald vor OpenAI mit einem großen Börsengang (IPO) auf den öffentlichen Markt geht.
Weiterlesen: Meta hat das Abonnement Meta One mit KI-Tools vorgestellt · Neuer Bericht über die Zukunft der KI und ihre Auswirkungen auf die Wirtschaft
