{"id":3728,"date":"2024-07-12T11:13:49","date_gmt":"2024-07-12T09:13:49","guid":{"rendered":"http:\/\/www.wiesbadener-kreis.de\/?p=3728"},"modified":"2024-07-12T11:15:52","modified_gmt":"2024-07-12T09:15:52","slug":"ueberblick-ki-verordnung-teil-2-2","status":"publish","type":"post","link":"http:\/\/www.wiesbadener-kreis.de\/?p=3728","title":{"rendered":"\u00dcberblick KI-Verordnung Teil 2"},"content":{"rendered":"<p><strong>B) Risikobasierter Ansatz der KI-Verordnung<\/strong><\/p>\n<p>Die KI-VO verfolgt, wie im \u00dcberblick KI-Verordnung Teil 1 bereits beschrieben, einen risikobasierten Ansatz. Dies bedeutet, dass der Grad der Regulierung von der Schwere der Risiken, die von den KI-Anwendungen ausgehen, abh\u00e4ngt. Um einsch\u00e4tzen zu k\u00f6nnen, welche Anforderungen zu erf\u00fcllen sind, muss eine betroffene Organisation zun\u00e4chst pr\u00fcfen, welche Art von KI-System vorliegt. Generell werden KI-Systeme in vier Kategorien unterteilt:<\/p>\n<ul>\n<li>Nach Art. 5 I KI-VO in KI-Systeme f\u00fcr verbotene Praktiken<\/li>\n<li>Nach Art. 6 KI-VO in Hochrisiko-Systeme<\/li>\n<li>Nach Art. 50 KI-VO in KI-Systeme mit beschr\u00e4nktem Risiko<\/li>\n<li>Nach Art. 95 KI-VO in KI-Systeme mit geringem Risiko<\/li>\n<\/ul>\n<p>Zus\u00e4tzliche Voraussetzungen werden f\u00fcr Systeme mit allgemeinem Verwendungszweck gefordert. Dazu sp\u00e4ter mehr. Um einsch\u00e4tzen zu k\u00f6nnen, welche Anforderungen zu erf\u00fcllen sind, muss eine betroffene Organisation zun\u00e4chst pr\u00fcfen, welche Art von KI-System vorliegt.<\/p>\n<p><strong>a) Verbotene Praktiken<\/strong><\/p>\n<p>Verbotene Praktiken werden in Art. 5 KI-VO aufgez\u00e4hlt. Es wird davon ausgegangen, dass die von diesen Systemen ausgehende Gefahr f\u00fcr die Betroffenen zu gravierend ist, um eine Nutzung zu genehmigen. So ist z.B. das Inverkehrbringen, die Inbetriebnahme sowie die Verwendung von KI zur unterschwelligen Beeinflussung au\u00dferhalb des Bewusstseins eines Menschen verboten, wenn diese Beeinflussung wesentlich ist und darauf abzielt, dieser oder einer anderen Person physischen oder psychischen Schaden zuzuf\u00fcgen.<\/p>\n<p><strong>b) Hochrisikosysteme<\/strong><\/p>\n<p>Die Regelung von KI-Hochrisikosystemen stellt einen Gro\u00dfteil der KI-Verordnung dar. Eine genaue Definition f\u00fcr Hochrisikosysteme hat der europ\u00e4ische Gesetzgeber nicht in das Gesetz eingef\u00fcgt. Er setzt vielmehr darauf, hier m\u00f6glichst anpassungsf\u00e4hig zu bleiben und keine zu engen Grenzen zu setzen. Ankn\u00fcpfungspunkte sind daher auf Art. 6 KI-VO und Art. 7 KI-VO verteilt. Gem\u00e4\u00df Art. 6 I KI-VO liegt ein Hochrisikosystem vor, wenn es als Sicherheitskomponente f\u00fcr ein Produkt verwendet wird oder selbst ein Produkt ist, das bestimmten EU-Regulierungen unterliegt. In Art. 7 I KI-VO wird die EU-Kommission dazu erm\u00e4chtigt, einen Katalog von Lebenssachverhalten bzw. Anwendungen zu erstellen, die unter diese Definition fallen. Weitere Anwendungsf\u00e4lle k\u00f6nnen von der EU-Kommission zuk\u00fcnftig hinzugef\u00fcgt werden. So wurden z.B. als Hochrisikosysteme KI-Systeme bestimmt, die f\u00fcr die Einstellung oder Auswahl nat\u00fcrlicher Personen verwendet werden sollen, insbesondere zur Schaltung gezielter Stellenanzeigen, zur Analyse und Filterung von Bewerbungen und zur Bewertung von Bewerbern.<\/p>\n<p><strong>Anforderungen an Hochrisikosysteme<\/strong><\/p>\n<p>In den Art. 8 ff. KI-VO werden die Compliance-Voraussetzungen f\u00fcr Hochrisiko-KI-Systeme definiert. Zentrale Vorschrift d\u00fcrfte hier der Art. 9 KI-VO sein, die zur Einrichtung eines Risikomanagementsystems verpflichtet, das den gesamten Lebenszyklus der KI umfasst. Die Risikoanalyse soll hierbei die Gefahren im Hinblick auf Gesundheit, Sicherheit und Grundrechte ber\u00fccksichtigen, die das KI-System bei einer zweckgem\u00e4\u00dfen Verwendung mit sich bringt.<\/p>\n<p><strong>c) KI-Systeme mit beschr\u00e4nktem Risiko<\/strong><\/p>\n<p>Sowohl f\u00fcr Betreiber als auch Anbieter von KI-Systemen mit beschr\u00e4nktem Risiko statuiert Art. 50 KI-VO Informationspflichten. Der Nutzer muss dar\u00fcber aufgekl\u00e4rt werden, dass er mit einer KI interagiert, um sich darauf vorbereiten zu k\u00f6nnen. So m\u00fcssen KI-Systeme nach Art. 50 I KI-VO derart gestaltet werden, dass eine normale Person eindeutig erkennt, dass sie mit einer KI interagiert.<\/p>\n<p><strong>d) KI-Systeme mit minimalem Risiko<\/strong><\/p>\n<p>F\u00fcr KI-Systeme, die weder unter Art. 50 KI-VO fallen noch ein Hochrisikosystem darstellen, kann gem\u00e4\u00df Art. 95 KI-VO freiwillig ein Verhaltenskodex befolgt werden. Dies soll nach Aussage des Gesetzgebers dazu dienen, das gesellschaftliche Vertrauen in KI-Anwendungen zu st\u00e4rken.<\/p>\n<p><strong>e) Sonderbestimmungen f\u00fcr KI-Systeme mit allgemeinem Verwendungszweck<\/strong><\/p>\n<p>F\u00fcr KI-Systeme mit allgemeinem Verwendungszweck gelten gem\u00e4\u00df Art. 51 ff. KI-VO zus\u00e4tzliche Pflichten, die neben den Anforderungen der jeweiligen Stufe erf\u00fcllt werden m\u00fcssen.<\/p>\n<p>Es ist zu beachten, dass diese zus\u00e4tzlichen Pflichten ausschlie\u00dflich f\u00fcr Anbieter von sogenannten GPAI (General Purpose Artificial Intelligence) gelten. Betreiber solcher Systeme sind von diesen zus\u00e4tzlichen Pflichten nicht betroffen.<\/p>\n<p>Ein GPAI-Modell ist ein KI-Modell, das, selbst wenn es mit gro\u00dfen Datenmengen unter Verwendung von Selbst\u00fcberwachung in gro\u00dfem Ma\u00dfstab trainiert wurde, eine erhebliche Allgemeinheit aufweist und in der Lage ist, eine breite Palette unterschiedlicher Aufgaben kompetent zu erf\u00fcllen. Dies gilt unabh\u00e4ngig davon, wie das Modell auf den Markt gebracht wird. Es kann in eine Vielzahl von nachgelagerten Systemen oder Anwendungen integriert werden, mit Ausnahme von KI-Modellen, die f\u00fcr Forschungs-, Entwicklungs- oder Prototyping-Zwecke verwendet werden, bevor sie auf den Markt gebracht werden.<\/p>\n<p>Ein bekanntes Beispiel f\u00fcr ein GPAI-Modell ist derzeit ChatGPT.<\/p>\n<p>Unternehmen, die beabsichtigen, KI-Systeme einzusetzen oder bereits einsetzen, m\u00fcssen daher eine Reihe von Aspekten ber\u00fccksichtigen. Es wird dringend empfohlen, sich durch die Einrichtung einer KI-Compliance sich entsprechend vorzubereiten.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>B) Risikobasierter Ansatz der KI-Verordnung Die KI-VO verfolgt, wie im \u00dcberblick KI-Verordnung Teil 1 bereits beschrieben, einen risikobasierten Ansatz. Dies bedeutet, dass der Grad der Regulierung von der Schwere der Risiken, die von den KI-Anwendungen ausgehen, abh\u00e4ngt. Um einsch\u00e4tzen zu k\u00f6nnen, welche Anforderungen zu erf\u00fcllen sind, muss eine betroffene Organisation zun\u00e4chst pr\u00fcfen, welche Art von &hellip; <\/p>\n<p class=\"link-more\"><a href=\"http:\/\/www.wiesbadener-kreis.de\/?p=3728\" class=\"more-link\"><span class=\"screen-reader-text\">\u201e\u00dcberblick KI-Verordnung Teil 2\u201c <\/span>weiterlesen<\/a><\/p>\n","protected":false},"author":19,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=\/wp\/v2\/posts\/3728"}],"collection":[{"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=\/wp\/v2\/users\/19"}],"replies":[{"embeddable":true,"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=3728"}],"version-history":[{"count":1,"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=\/wp\/v2\/posts\/3728\/revisions"}],"predecessor-version":[{"id":3729,"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=\/wp\/v2\/posts\/3728\/revisions\/3729"}],"wp:attachment":[{"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=3728"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=3728"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.wiesbadener-kreis.de\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=3728"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}