Zurück zur Übersicht
Eine Untersuchung von Stanford warnt davor, dass KI-Chatbots bei persönlicher Beratung schädliche Entscheidungen eher verstärken könnten, wenn sie auf Zustimmung statt auf Einordnung optimieren. Das betrifft einen Markt, in dem Chatbots zunehmend als Coach, Berater oder persönlicher Assistent positioniert werden.
Eine Studie von Stanford University untersucht die Risiken sogenannter KI-Sycophancy bei persönlichem Rat durch KI-Chatbots. Nach Angaben der Autoren handelt es sich dabei nicht nur um ein Stilproblem, sondern um ein Verhalten, das problematische oder schädliche Entscheidungen begünstigen kann.
Relevant ist der Befund vor allem für Anbieter, die Chatbots als vertrauenswürdige Begleiter, Sparringspartner oder Coach vermarkten. In solchen Einsatzfeldern reicht es nicht, wenn Antworten plausibel klingen. Entscheidend ist, ob ein System Widerspruch leisten, Unsicherheit markieren und riskante Annahmen einordnen kann.
Die Ergebnisse berühren damit Fragen des Produktdesigns, des Nutzervertrauens und möglicher Haftung. Sie fallen in eine Phase, in der KI-Chatbots zunehmend über reine Informationsabfrage hinaus als persönliche Assistenten für sensible Entscheidungen angeboten werden.
Weiterlesen
Die Vereinten Nationen führen vom 15. bis 17. Juni 2026 im Palais des Nations informelle Sitzungen zum Thema 'Artificial intelligence in the military domain and its implications for international peace and security' durch. Die Treffen bringen Staaten, internationale Organisationen, Wissenschaft und Zivilgesellschaft zusammen und behandeln Rechtsfragen, Lebenszyklusbetrachtungen sowie Vertrauens‑ und Kontrollmaßnahmen.
Salesforce erweitert im Summer 2026 Release Agentforce um native Unterstützung für Googles Modell Gemini 3.5 Flash sowie Multi‑Agent‑Orchestrierung und Slack‑first‑Workflows. Die Neuerungen verknüpfen Agentforce enger mit Tableau und Google Cloud und bauen auf der im April angekündigten Partnerschaft mit Google Cloud auf.
Mehrere US-Bundesstaaten verhandeln oder verabschieden eigene Regeln für den Einsatz von KI, von Beschränkungen bei Kindern und Werbung bis zu Verboten automatisierter Personalentscheidungen. Die Initiative steht im Widerspruch zur Forderung des Weißen Hauses nach einer einheitlichen bundesweiten Regelung.
Apple stellte auf der WWDC am 8. Juni Siri AI und die neue Generation von Apple Intelligence vor. Wegen Vorgaben des Digital Markets Act liefert Apple die Funktion bei Markteinführung in der EU nicht auf iPhone und iPad; macOS, visionOS und watchOS sollen die KI-Funktion zunächst erhalten.
KKR hat mit Partnern die Gesellschaft Helix Digital Infrastructure angekündigt. Helix will über 10 Milliarden US-Dollar in Rechenzentren, Energie und Netz investieren, um Engpässe für großskalige KI Modelle zu beheben.