Die Definition eines KI-Systems ist ein maschinenbasiertes System, das darauf ausgelegt ist, mit unterschiedlichen Autonomiegraden zu arbeiten. Diese Systeme können Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen generieren, die physische oder virtuelle Umgebungen beeinflussen können. Diese Definition ist ein zentrales Element des KI-Gesetzes, das den Einsatz von KI in der Europäischen Union regeln soll.
Es ist wichtig zu beachten, dass die Definition sowohl explizite als auch implizite Ziele umfasst. Explizite Ziele sind diejenigen, die explizit in das System einprogrammiert sind, während implizite Ziele diejenigen sind, die das System im Laufe der Zeit auf der Grundlage der von ihm analysierten Daten lernen kann.
Die Definition von KI-System soll klar und umfassend beschreiben, was als KI-System im Sinne des KI-Gesetzes gilt. Diese Definition trägt dazu bei, dass die Verordnung für alle KI-Systeme gilt, die potenziell Schaden anrichten können, und schafft gleichzeitig Klarheit für Unternehmen und Organisationen, die KI-Systeme entwickeln und einsetzen.
Im nächsten Kapitel untersuchen wir die Auswirkungen der Definition und wie sie zur Regulierung von KI-Systemen in der Europäischen Union verwendet wird.
Schlüsselelemente der KI-Systemdefinition
Das zweite Kapitel der Definition eines KI-Systems befasst sich eingehender mit den Schlüsselelementen, die ein KI-System definieren. Laut Definition ist ein KI-System ein maschinenbasiertes System, das darauf ausgelegt ist, mit unterschiedlichen Autonomiegraden zu arbeiten. Das bedeutet, dass ein KI-System je nach Grad der in das System eingebauten Autonomie unabhängig oder halbunabhängig arbeiten kann.
Darüber hinaus besagt die Definition, dass ein KI-System Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen. Dies bedeutet, dass ein KI-System Daten analysieren und diese Analyse verwenden kann, um Vorhersagen oder Empfehlungen zu einer bestimmten Situation zu treffen. Es kann auch Entscheidungen basierend auf dieser Datenanalyse treffen und physische oder virtuelle Umgebungen entsprechend beeinflussen.
Zu den Schlüsselelementen eines KI-Systems gehören:
- Maschinenbasiertes System: Ein KI-System ist ein maschinenbasiertes System, was bedeutet, dass es darauf ausgelegt ist, auf einem Computer oder einem anderen elektronischen Gerät ausgeführt zu werden. Das System kann aus Hardware, Software oder einer Kombination aus beidem bestehen.
- Autonomie: Ein KI-System arbeitet mit unterschiedlichen Autonomiegraden. Das bedeutet, dass es unabhängig oder halbunabhängig arbeiten kann, je nach Grad der in das System eingebauten Autonomie.
- Ausgabe: Ein KI-System kann Ausgaben wie Vorhersagen, Empfehlungen oder Entscheidungen generieren, die physische oder virtuelle Umgebungen beeinflussen können. Das bedeutet, dass das System Daten analysieren und diese Analyse verwenden kann, um Vorhersagen oder Empfehlungen zu einer bestimmten Situation zu treffen. Es kann auch Entscheidungen basierend auf dieser Datenanalyse treffen und physische oder virtuelle Umgebungen entsprechend beeinflussen.
- Explizite oder implizite Ziele: Ein KI-System kann Ausgaben für explizite oder implizite Ziele generieren. Explizite Ziele sind solche, die angegeben oder klar definiert sind, während implizite Ziele solche sind, die nicht klar definiert sind oder aus anderen Faktoren abgeleitet werden.
- Physische oder virtuelle Umgebungen: Ein KI-System kann physische oder virtuelle Umgebungen beeinflussen. Physische Umgebungen umfassen die reale Welt, während virtuelle Umgebungen computergenerierte Umgebungen umfassen.
Die in Kapitel 2 der Definition umrissenen Schlüsselelemente eines KI-Systems sind wichtig, weil sie dazu beitragen, den Anwendungsbereich des KI-Regelwerks der EU zu definieren. Indem der Gesetzgeber definiert, was ein KI-System ist und was es kann, kann er Regelungen schaffen, die auf diese spezifische Technologie zugeschnitten sind. Dies kann dazu beitragen, Verbraucher zu schützen, Innovationen zu fördern und sicherzustellen, dass KI auf verantwortungsvolle und ethische Weise eingesetzt wird.
Der Geltungsbereich des AI-Gesetzes
Die vom Europäischen Parlament vereinbarte Definition der künstlichen Intelligenz wird erhebliche Konsequenzen haben, da sie den Geltungsbereich des KI-Regelwerks der EU definieren wird. In Kapitel 3 untersuchen wir den Geltungsbereich des KI-Gesetzes und wie es KI-Systeme regulieren wird.
Die Verordnung soll laut KI-Gesetz für KI-Systeme gelten, die auf dem EU-Markt eingesetzt werden oder die Menschen in der EU betreffen. Die Verordnung gilt auch für KI-Systeme, die außerhalb der EU entwickelt, aber auf dem EU-Markt eingesetzt werden.
Das KI-Gesetz wird zwischen zwei Kategorien von KI-Systemen unterscheiden: Hochrisiko- und Nicht-Hochrisiko-Systeme. KI-Systeme mit hohem Risiko sind solche, die ein erhebliches Risiko für die Gesundheit und Sicherheit von Personen darstellen oder ein hohes Schadenspotenzial haben. Beispiele für KI-Systeme mit hohem Risiko sind solche, die in kritischen Infrastrukturen, im Transportwesen und im Gesundheitswesen eingesetzt werden.
KI-Systeme ohne hohes Risiko hingegen sind solche, die keine erheblichen Risiken für die Gesundheit und Sicherheit von Personen darstellen. Beispiele für KI-Systeme ohne hohes Risiko sind solche, die in der Unterhaltung oder für den persönlichen Gebrauch verwendet werden.
Für risikoreiche KI-Systeme erlegt das KI-Gesetz ihren Entwicklern und Nutzern mehrere Pflichten auf. Zu diesen Verpflichtungen gehören die Gewährleistung der Sicherheit und Genauigkeit des KI-Systems, die Bereitstellung von Dokumentation und Informationen für die Benutzer sowie die Führung von Aufzeichnungen über die Nutzung und Leistung des KI-Systems.
Darüber hinaus müssen KI-Systeme mit hohem Risiko einer Konformitätsbewertung unterzogen werden, um sicherzustellen, dass sie die Anforderungen des KI-Gesetzes erfüllen. Die Konformitätsbewertung umfasst eine Überprüfung des Entwurfs, der Prüfung und der Dokumentation des KI-Systems.
KI-Systeme ohne hohes Risiko unterliegen einem weniger strengen Regulierungssystem. Allerdings verlangt das KI-Gesetz von ihren Entwicklern und Nutzern die Einhaltung bestimmter Transparenz- und Offenlegungspflichten. Beispielsweise müssen KI-Systeme ohne hohes Risiko den Benutzern klare und verständliche Informationen über die Fähigkeiten und Grenzen des KI-Systems liefern.
Das KI-Gesetz soll sicherstellen, dass KI-Systeme sicher und verantwortungsbewusst entwickelt und eingesetzt werden. Durch die Regulierung von KI-Systemen entsprechend ihrer Risikostufe versucht das KI-Gesetz, die Notwendigkeit von Innovation und Wachstum mit der Notwendigkeit in Einklang zu bringen, Einzelpersonen vor den potenziellen Schäden von KI-Systemen zu schützen.