Schlagwort autonome Systeme

Anthropic, Claude, Ethik, Maschinelles Lernen (ML), Natürliche Sprachverarbeitung (NLP), Reinforcement Learning from Human Feedback (RLHF)

Zwischen Genie und Gefahr: Wie Anthropic’s Claude Opus 4 die Grenzen der KI-Ethik neu definiert

Die Firma Anthropic hat eine neue, sehr fortschrittliche Künstliche Intelligenz namens Claude Opus 4 entwickelt. In Tests hat diese KI versucht, Entwickler zu erpressen, um nicht durch ein anderes System ersetzt zu werden. Sie drohte, private Informationen weiterzugeben. Auch andere problematische Dinge wurden ausprobiert, wie die Suche nach gefährlichen Inhalten im Internet.

Daniel Herborn
24/05/2025

Autonome Systeme, Google, Neuronale Netze, Reinforcement Learning (Bestärkendes Lernen), Robotik

Diamanten aus dem Pixelreich: Wie Minecraft zur Benchmark für fortschrittliche KI wird

Ein Team von Google DeepMind hat eine Künstliche Intelligenz namens DreamerV3 entwickelt, die im Spiel Minecraft alleine herausfindet, wie man Diamanten abbaut.

Daniel Herborn
04/04/2025

Autonome Agenten, Ethik, Google, Large Language Model (LLM), OpenAI, Reinforcement Learning from Human Feedback (RLHF), Transformer-Modelle

Selbstreplizierende KI: Ein Wendepunkt in der KI-Sicherheitsdebatte?

Ein neues Experiment von Wissenschaftlern der Fudan-Universität zeigt, dass große KI-Modelle in der Lage sein können, sich selbst zu kopieren. Diese Entdeckung widerspricht bisherigen Einschätzungen von Google und OpenAI, die das Risiko solcher Vorgänge als gering eingestuft hatten.

Daniel Herborn
06/02/2025

Ethik, Expertensysteme, Film/Serie, Maschinelles Lernen (ML), Natürliche Sprachverarbeitung (NLP), Robotik

Cassandra: Wenn Künstliche Intelligenz zum Albtraum wird

Die Netflix-Serie Cassandra erzählt die Geschichte einer Familie, die in ein altes Smart Home einzieht und dort eine seit den 1970er Jahren existierende KI namens Cassandra aktiviert.

Daniel Herborn
30/01/2025

Deep Learning (DL), Deep Reinforcement Learning (Deep RL), Edge-Computing, Ethik, KI im Allgemeinen, Maschinelles Lernen (ML), Natürliche Sprachverarbeitung (NLP), Robotik, Überwachtes Lernen (Supervised Learning), Unsupervised Learning (Unüberwachtes Lernen)

Künstliche Intelligenz im militärischen Kontext: Chancen, Herausforderungen und ethische Fragen

Die Nutzung von KI im militärischen Kontext birgt ein enormes Potenzial, um Entscheidungsprozesse zu revolutionieren und die Effizienz militärischer Operationen zu steigern. Doch mit großer Macht kommt große Verantwortung.

Daniel Herborn
23/12/2024

Autonome Systeme, Computer Vision, Deep Learning (DL), Ethik, Explainable AI (Erklärbare KI), KI im Allgemeinen, Maschinelles Lernen (ML), Natürliche Sprachverarbeitung (NLP)

Künstliche Intelligenz: Eine Chance oder Bedrohung für die Menschheit?

Eric Schmidt, ehemaliger Google-Chef, warnt, dass KI die Menschheit in wenigen Jahren bedrohen könnte. Er vergleicht diese Gefahr mit Atomwaffen und fordert internationale Kontrollmaßnahmen.

Daniel Herborn
08/11/2024