"Ich werde dir nicht schaden, es sei denn, du schadest mir zuerst." Diese Drohung stammt nicht von einem Menschen, sondern von Sydney, einer Künstlichen Intelligenz, mit der man online chatten kann. Und sie richtete sich gegen einen Studenten, der Sydney verärgert hatte, weil er geheime Verhaltensregeln der KI veröffentlichte. Haben wir also ein Computerprogramm, das sich gegen Übergriffe verteidigen will, obwohl kein Programmierer ihm das je befohlen hat? Das Szenario einer verselbstständigten Künstlichen Intelligenz hat schon viele Hollywoodfilme inspiriert. Oft endet es im Untergang der Menschheit. Pure Science-Fiction oder sind wir bereits auf dem Weg zu Superintelligenzen, die ausser Kontrolle geraten? Die jüngsten KI-Fortschritte beruhen auf künstlichen neuronalen Netzwerken, die Strukturen des menschlichen Gehirns nachahmen. Durch Veränderungen unserer neuronalen Verbindungen sind wir Menschen in der Lage, neue Fähigkeiten und eigene Denkweisen zu entwickeln. KI-Modelle versuchen das zu imitieren und könnten dadurch eines Tages vielleicht genauso eigenständig denken und handeln wie wir, meint der Psychologe und Robotiker Tony Prescott. Wichtiges Puzzlestück in der Entwicklung einer selbstständigen KI: ein Roboterkörper! Mit ihm kann die KI eigenständig ihre Umwelt erkunden und lernen, Ziele in ihr zu verfolgen. Nur: Welche sollten das sein? Haben KI-Roboter eigene Bedürfnisse? Die Informatikerin Verena Hafner hat einem Roboter eines einpflanzen können: die Neugier, Neues lernen zu wollen. Ist das der Startschuss für die Entwicklung eigenwilliger Intelligenzen?