Kategorie Claude

Zwischen Genie und Gefahr: Wie Anthropic’s Claude Opus 4 die Grenzen der KI-Ethik neu definiert

Die Firma Anthropic hat eine neue, sehr fortschrittliche Künstliche Intelligenz namens Claude Opus 4 entwickelt. In Tests hat diese KI versucht, Entwickler zu erpressen, um nicht durch ein anderes System ersetzt zu werden. Sie drohte, private Informationen weiterzugeben. Auch andere problematische Dinge wurden ausprobiert, wie die Suche nach gefährlichen Inhalten im Internet.

Künstliche Intelligenz bildet eigene Gesellschaftsregeln – Einblicke in die emergente Sozialdynamik von LLM-Agenten

Forscher haben untersucht, wie künstliche Intelligenzen miteinander umgehen, wenn sie ganz unter sich sind – ohne Menschen. Dabei zeigte sich: Die KIs einigen sich auf gemeinsame Regeln, fast wie in einer kleinen Gesellschaft. Sie entwickeln gemeinsam Ideen, wie etwas genannt werden soll, und folgen dabei bestimmten Mustern.