Tools:
Update via:
Achtung: Dieser Titel gilt komplett oder überwiegend erst ab 02.08.2026
Artikel 14 - Verordnung über künstliche Intelligenz (KI-VO k.a.Abk.)
ABl. L, 2024/1689, 12.07.2024
Geltung ab 02.08.2026, abweichend siehe Artikel 113; FNA: 13.10.30.00 Bundesgrenzschutz, Bundespolizei
Geltung ab 02.08.2026, abweichend siehe Artikel 113; FNA: 13.10.30.00 Bundesgrenzschutz, Bundespolizei
Artikel 14 Menschliche Aufsicht
Artikel 14 wird in 6 Vorschriften zitiert
(1) Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass sie während der Dauer ihrer Verwendung - auch mit geeigneten Instrumenten einer Mensch-Maschine-Schnittstelle - von natürlichen Personen wirksam beaufsichtigt werden können.
(2) Die menschliche Aufsicht dient der Verhinderung oder Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte, die entstehen können, wenn ein Hochrisiko-KI-System im Einklang mit seiner Zweckbestimmung oder im Rahmen einer vernünftigerweise vorhersehbaren Fehlanwendung verwendet wird, insbesondere wenn solche Risiken trotz der Einhaltung anderer Anforderungen dieses Abschnitts fortbestehen.
(3) Die Aufsichtsmaßnahmen müssen den Risiken, dem Grad der Autonomie und dem Kontext der Nutzung des Hochrisiko-KI-Systems angemessen sein und werden durch eine oder beide der folgenden Arten von Vorkehrungen gewährleistet:
- a)
- Vorkehrungen, die vor dem Inverkehrbringen oder der Inbetriebnahme vom Anbieter bestimmt und, sofern technisch machbar, in das Hochrisiko-KI-System eingebaut werden;
- b)
- Vorkehrungen, die vor dem Inverkehrbringen oder der Inbetriebnahme des Hochrisiko-KI-Systems vom Anbieter bestimmt werden und dazu geeignet sind, vom Betreiber umgesetzt zu werden.
(4) Für die Zwecke der Durchführung der Absätze 1, 2 und 3 wird das Hochrisiko-KI-System dem Betreiber so zur Verfügung gestellt, dass die natürlichen Personen, denen die menschliche Aufsicht übertragen wurde, angemessen und verhältnismäßig in der Lage sind,
- a)
- die einschlägigen Fähigkeiten und Grenzen des Hochrisiko-KI-Systems angemessen zu verstehen und seinen Betrieb ordnungsgemäß zu überwachen, einschließlich in Bezug auf das Erkennen und Beheben von Anomalien, Fehlfunktionen und unerwarteter Leistung;
- b)
- sich einer möglichen Neigung zu einem automatischen oder übermäßigen Vertrauen in die von einem Hochrisiko-KI-System hervorgebrachte Ausgabe („Automatisierungsbias") bewusst zu bleiben, insbesondere wenn Hochrisiko-KI-Systeme Informationen oder Empfehlungen ausgeben, auf deren Grundlage natürliche Personen Entscheidungen treffen;
- c)
- die Ausgabe des Hochrisiko-KI-Systems richtig zu interpretieren, wobei beispielsweise die vorhandenen Interpretationsinstrumente und -methoden zu berücksichtigen sind;
- d)
- in einer bestimmten Situation zu beschließen, das Hochrisiko-KI-System nicht zu verwenden oder die Ausgabe des Hochrisiko-KI-Systems außer Acht zu lassen, außer Kraft zu setzen oder rückgängig zu machen;
- e)
- in den Betrieb des Hochrisiko-KI-Systems einzugreifen oder den Systembetrieb mit einer „Stopptaste" oder einem ähnlichen Verfahren zu unterbrechen, was dem System ermöglicht, in einem sicheren Zustand zum Stillstand zu kommen.
(5) 1Bei den in Anhang III Nummer 1 Buchstabe a genannten Hochrisiko-KI-Systemen müssen die in Absatz 3 des vorliegenden Artikels genannten Vorkehrungen so gestaltet sein, dass außerdem der Betreiber keine Maßnahmen oder Entscheidungen allein aufgrund des vom System hervorgebrachten Identifizierungsergebnisses trifft, solange diese Identifizierung nicht von mindestens zwei natürlichen Personen, die die notwendige Kompetenz, Ausbildung und Befugnis besitzen, getrennt überprüft und bestätigt wurde.
2Die Anforderung einer getrennten Überprüfung durch mindestens zwei natürliche Personen gilt nicht für Hochrisiko-KI-Systeme, die für Zwecke in den Bereichen Strafverfolgung, Migration, Grenzkontrolle oder Asyl verwendet werden, wenn die Anwendung dieser Anforderung nach Unionsrecht oder nationalem Recht unverhältnismäßig wäre.
Zitierungen von Artikel 14 Verordnung über künstliche Intelligenz
Sie sehen die Vorschriften, die auf Artikel 14 KI-VO verweisen. Die Liste ist unterteilt nach Zitaten in
KI-VO selbst,
Ermächtigungsgrundlagen,
anderen geltenden Titeln,
Änderungsvorschriften und in
aufgehobenen Titeln.
interne Verweise
Artikel 12 KI-VO Aufzeichnungspflichten
... Übereinstimmung geführt hat; d) die Identität der gemäß Artikel 14 Absatz 5 an der Überprüfung der Ergebnisse beteiligten natürlichen ...
Artikel 13 KI-VO Transparenz und Bereitstellung von Informationen für die Betreiber
... zum Zeitpunkt der ersten Konformitätsbewertung vorab bestimmt hat; d) die in Artikel 14 genannten Maßnahmen zur Gewährleistung der menschlichen Aufsicht, einschließlich ...
Artikel 63 KI-VO Ausnahmen für bestimmte Akteure
... Anforderungen oder Pflichten, einschließlich der nach den Artikeln 9, 10, 11, 12, 13, 14 , 15, 72 und 73 geltenden, befreit ...
Artikel 74 KI-VO Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt
... die Zwecke der Sicherstellung der wirksamen Durchsetzung der vorliegenden Verordnung die in Artikel 14 Absatz 4 Buchstaben d und j der genannten Verordnung genannten Befugnisse gegebenenfalls aus der Ferne ausüben. ...
Artikel 96 KI-VO Leitlinien der Kommission zur Durchführung dieser Verordnung
... die sich insbesondere auf Folgendes beziehen: a) die Anwendung der in den Artikeln 8 bis 15 und in Artikel 25 genannten Anforderungen und Pflichten; b) die in Artikel 5 ...
ANHANG IV KI-VO Technische Dokumentation gemäß Artikel 11 Absatz 1
... (zum Beispiel Erkennung von Ausreißern); e) Bewertung der nach Artikel 14 erforderlichen Maßnahmen der menschlichen Aufsicht, mit einer Bewertung der technischen ... von Risiken in Bezug auf Gesundheit und Sicherheit sowie Grundrechte und Diskriminierung; die nach Artikel 14 erforderlichen Maßnahmen der menschlichen Aufsicht, einschließlich der technischen ...
Link zu dieser Seite: https://www.buzer.de/14_KI-VO.htm