• Frage: Zu wie viel Prozent ist die KI ausgereift und sicher?

    Frage gestellt von ease27eve an Teresa, Paul, Milos, Michael, Knut, Julia, Diana, Clarissa, Christian, Christian am 18 Jun 2024.
    • Foto: Clarissa Elisabeth Hohenwalde

      Clarissa Elisabeth Hohenwalde Beantwortet am 18 Jun 2024:


      Hm, knifflige Frage… 🤔 Basierend auf meinem Bauchgefühl würde ich 21% sagen und zwar aus folgenden Gründen:

      1. Grundsätzlich gibt es nicht die eine KI, sondern ganz viele verschiedene KIs. Jede davon kann andere Aufgaben lösen. Für viele Probleme haben wir noch gar keine KIs und vertrauen weiterhin auf die Arbeit von Menschen, z.B. wenn es um Fingerfertigkeit im Handwerk geht.

      2. Erst vor wenigen Jahren haben wir mit Transformer-Modellen (z.B. ChatGPT) einen großen Durchbruch in der KI-Forschung geschafft. Wir sind noch dabei zu verstehen, wie die KIs ihre Entscheidungen genau treffen. Mit dieser Frage beschäftigt sich die sogenannte explainable AI Forschung.

      3. Wir kennen noch nicht alle Probleme, die im Zusammenhang mit KI auftreten. Wir wissen, dass beispielsweise Sprach-KIs dazu neigen zu halluzinieren und falsche Aussagen zu produzieren. Ebenfalls ist uns bekannt, dass Sprachmodelle, die mit sogenanntem biased Trainingsmaterial trainiert werden, diskriminierende Vorurteile widerspiegeln oder sogar verstärken können. Obwohl wir ein paar Probleme von KI kennen, wissen wir nicht, wie wir diese vollständig lösen können.

      Daher würde ich sagen, dass wir bei 21% und somit noch am Anfang der KI-Entwicklung stehen. Wir müssen entsprechend noch weiterforschen und dürfen gespannt bleiben, wohin sich KI in Zukunft entwickelt!

    • Foto: Knut Linke

      Knut Linke Beantwortet am 20 Jun 2024:


      Puh… das ist eine schöne Frage…

      Bei KI-Systemen wird es immer Luft nach oben geben, von daher würde ich sagen, wir haben vielleicht 5% der Möglichkeiten bisher entdeckt (ich mag da meinen Kollegen Kamal gerne zitieren, der sagte: „Ich Maße mir nicht an einzuschätzen, was generative KI oder KI noch alles an Aufgaben übernehmen kann“).

      Bei der Sicherheit würde ich pauschal sagen, dass kein KI-System sicher ist. Grundsätzlich wird es in jedem System immer eine Lücke geben (so wie bei Windows, deinem Android oder Apple Handy oder auch bei deiner Haustür zu Hause). Die Frage ist nur, ob diese gefunden wurde oder wird.

      Eine pauschale Sicherheit haben die meisten KI-Systeme durch Ihre BIAS (ihr Verhalten) vom Entwickler her. Da liegen wir wahrscheinlich bei „80-90%“. Die Frage ist, wie gut man die Lücke finden kann… 🙂

Kommentare