Gefahren durch KI - KI-Insiderin: «Nicht einmal die Macher wissen genau, was sie tun»
Wo sehen Sie heute die grössten Risiken bei der Entwicklung von künstlicher Intelligenz?Es gibt viele unterschiedliche Risiken. Eines ist, dass wir tatsächlich so mächtige KI-Systeme bauen, dass wir die Kontrolle über sie verlieren. Das klingt nach Science-Fiction, aber führende KI-Forscher nehmen diese Gefahr ernst.Wir sehen bereits Fälle, in denen Kinder nach intensiven ‹Beziehungen› mit einem Chatbot Suizid begangen haben.Heisst das, nicht einmal die Entwickler wissen genau, was sie tun?Ja, so ist es. Es ist kein Zauber. Aber es sind sehr grosse statistische Modelle, die wir schlecht verstehen können. Das gilt auch für die klügsten KI-Forscherinnen und Forscher.Welche weiteren Gefahren sehen Sie?Die emotionale Abhängigkeit von Chatbots. Wir sehen bereits Fälle, in denen Kinder nach intensiven «Beziehungen» mit einem Chatbot Suizid begangen haben. Ein anderes grosses Risiko ist der Missbrauch. Experten befürchten, dass mit KI zum Beispiel schlimmere biologische Waffen entwickelt werden könnten.Sehen sie auch Chancen von KI?Natürlich, in verschiedenen Bereichen. Ein Beispiel sind selbstfahrende Autos. Die Daten aus den USA zeigen bereits, dass sie sicherer sind als menschliche Fahrer. Wenn man bedenkt, dass in den USA jährlich 40'000 Menschen bei Autounfällen sterben, müssen wir eine Technologie, die diese Zahl senken kann, feiern.Die Firmen müssen offenlegen, was sie tun, wie sie entscheiden und welche Risiken sie sehen.Wer kontrolliert diese mächtigen Firmen?Aktuell muss man sagen: kaum jemand. Sie haben sehr viel Freiheit, selbst zu entscheiden, was sie tun wollen.Was fordern Sie konkret?Zwei grosse Dinge: Erstens mehr Transparenz. Die Firmen müssen offenlegen, was sie tun, wie sie entscheiden und welche Risiken sie sehen. Zweitens müssen sie unabhängige Prüfer reinlassen, die ihre Systeme testen und überprüfen, ob die Firmen wirklich das tun, was sie behaupten.https://www.srf.ch/news/gesellschaft/gefahren-durch-ki-ki-insiderin-nicht-einmal-die-macher-wissen-genau-was-sie-tun
