KI-Modelle und KI-Systeme: Unterschiede, Bedeutung und regulatorische Anforderungen

Künstliche Intelligenz (KI) wird in immer mehr Bereichen eingesetzt, doch oft werden die Begriffe KI-Modell und KI-System synonym verwendet. Dabei gibt es wesentliche Unterschiede zwischen den beiden Begriffen, die insbesondere im regulatorischen Kontext der KI-Verordnung (EU AI Act) von Bedeutung sind. In diesem Beitrag grenzen wir die beiden Begriffe voneinander ab, zeigen die Unterschiede auf und analysieren, was Unternehmen hinsichtlich der gesetzlichen Anforderungen beachten sollten.

Ein KI-Modell ist der mathematische oder algorithmische Kern eines KI-Systems. Es handelt sich dabei um eine trainierte statistische Funktion oder ein neuronales Netz, das durch maschinelles Lernen auf Basis von Daten Muster erkennt und Vorhersagen trifft. Ein neuronales Netz ist eine Methode des maschinellen Lernens, die auf dem Prinzip der Signalverarbeitung im menschlichen Gehirn basiert. Es besteht aus mehreren Schichten von künstlichen Neuronen, die einfache Berechnungen durchführen und durch das Anpassen von Gewichtungen lernen, Zusammenhänge in den Daten zu erkennen.

• Entwickelt durch maschinelles Lernen (z. B. Entscheidungsbäume oder neuronale Netze).
• Funktioniert auf Basis von Trainingsdaten und mathematischen Optimierungen.
• Kann Vorhersagen oder Klassifikationen generieren, hat aber keine direkte Interaktion mit Endnutzern.
• Ist oft eine „Black Box“. Entscheidungswege sind nicht immer verständlich.

• GPT-4 ist ein Sprachmodell und wird unter anderem zur Textgenerierung, Übersetzung, für Chatbots und zur Automatisierung von Kundenservice verwendet.
• DALL·E 3 ist ein Bildgenerierungsmodell, welches durch die Angabe von Textbeschreibungen Bilder erstellt.
• AlphaFold ist ein Deep-Learning-Modell für Proteinfaltung und wird in der Biomedizin verwendet, um 3D-Strukturen von Proteinen vorherzusagen, um neue Medikamente zu entwickeln.

Ein KI-System ist ein weitreichender Begriff, der nicht nur das KI-Modell umfasst, sondern auch zusätzliche Komponenten zur Steuerung, Dateneingabe, Benutzerinteraktion und Entscheidungsumsetzung beschreibt. Ein KI-System ist ein vollständiges Software- oder Hardwaresystem, das KI-Modelle in reale Anwendungen integriert.

• Besteht aus einem oder mehreren KI-Modellen.
• Wird durch gesetzliche Anforderungen wie Transparenz, Fairness und Datenschutz reguliert.
• Interagiert mit Endnutzern oder anderen Systemen und führt automatisierte Entscheidungen durch.
• Enthält zusätzlich Datenverarbeitung, Vorverarbeitung, Entscheidungslogik und menschliche Überwachung.

• Ein Online-Shop integriert einen GPT-4-Chatbot in ihre Kundenkommunikation. Dadurch können Kunden automatisiert Informationen zu Produkten erhalten, ihre produktspezifischen Fragen beantwortet und Retouren verarbeiten werden.

• Eine Design-Software nutzt DALL·E 3, in ihrem Programm, um Nutzern die Funktion bereitzustellen Bilder basierend auf Textbeschreibungen zu generieren.
• Ein pharmazeutisches Unternehmen verwendet AlphaFold in ihrem medizinischen Forschungssystem, um Strukturen neuer Proteine zu analysieren und gezielt Medikamente gegen bestimmte Krankheiten zu entwickeln.

Die KI-Verordnung der EU legt Vorschriften für den Einsatz und die Entwicklung von KI fest. Dabei unterscheidet sie klar zwischen KI-Modellen und KI-Systemen, da sich die regulatorischen Anforderungen vor allem auf KI-Systeme beziehen.

• Artikel 3: Definition eines KI-Systems als ein vollständig implementiertes System, das mit Menschen oder anderen Systemen interagiert.

• Artikel 10: Anforderungen an die Datenqualität, um Verzerrungen in KI-Modellen zu vermeiden.
• Artikel 13: Transparenzanforderungen für KI-Systeme, damit deren Entscheidungen nachvollziehbar sind.

Die Verordnung konzentriert sich darauf, KI-Systeme sicher, fair und nachvollziehbar zu gestalten. KI-Modelle selbst werden zwar reguliert (z. B. hinsichtlich der Datenqualität), aber die Hauptverantwortung liegt bei den Unternehmen, die komplette KI-Systeme in der Praxis einsetzen.

1. Technischer Kontext: Ein gut trainiertes KI-Modell allein reicht nicht aus. Es muss in ein KI-VO-konformes KI-System integriert werden.
2. Regulatorischer Kontext: Die KI-Verordnung verpflichtet Unternehmen dazu, ihre KI-Systeme auf Fairness, Transparenz und Sicherheit zu prüfen, während die Auswahl und das Training von KI-Modellen besonders in Bezug auf Datenqualität relevant sind.
3. Unternehmensstrategie: Firmen, die KI einsetzen, sollten sich darauf vorbereiten, nicht nur leistungsfähige Modelle zu entwickeln, sondern auch die gesamte Systemarchitektur und Compliance-Vorgaben im Blick zu behalten.

KI-Modelle sind die Bausteine, aus denen KI-Systeme entstehen. Während KI-Modelle mathematische Vorhersagen treffen, sind KI-Systeme umfassende Lösungen, die regulatorischen Anforderungen unterliegen. Unternehmen sollten sich dieser Unterscheidung bewusst sein und bereits in der Entwicklungsphase sicherstellen, dass ihre KI-Systeme transparent, sicher und gesetzeskonform sind.

Die KI-Verordnung stellt hierbei klare Regeln auf und macht deutlich: Nicht nur das Modell zählt – das gesamte System muss verantwortungsvoll gestaltet werden.