Die Generalversammlung erkennt an, dass ein globaler Konsens über sichere und vertrauenswürdige KI-Systeme im Einklang mit dem Völkerrecht, insbesondere der Charta der Vereinten Nationen, der Allgemeinen Erklärung der Menschenrechte und der Agenda 2030 für nachhaltige Entwicklung, erreicht werden muss.
Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development : A_78_L.49-EN.pdf
11. März 2024 Generalversammlung der UN in Washington:
Nutzung der Möglichkeiten zuverlässiger, sicherer und vertrauenswürdiger Systeme der künstlichen Intelligenz für eine nachhaltige Entwicklung (Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development)
Die Generalversammlung
bekräftigt das Völkerrecht, insbesondere die Charta der Vereinten Nationen, und erinnert an die Allgemeine Erklärung der Menschenrechte,
bekräftigt ihre Resolution mit dem Titel „Unsere Welt verändern: die Agenda 2030 für nachhaltige Entwicklung“,
weist hin auf ihre Entschließung zur Förderung und zum Schutz der Menschenrechte im Zusammenhang mit digitalen Technologien und zum Recht auf Privatsphäre im digitalen Zeitalter,
nimmt die Empfehlung der Generalkonferenz der Organisation der Vereinten Nationen für Bildung, Wissenschaft und Kultur an in Bezug auf die Ethik der künstlichen Intelligenz,
erkennt an, dass sichere und vertrauenswürdige Systeme der künstlichen Intelligenz so beschaffen sein müssen, dass der Mensch im Mittelpunkt steht, dass sie zuverlässig, erklärbar, ethisch, integrativ, die Menschenrechte und das Völkerrecht uneingeschränkt achtend, fördernd und schützend, die Privatsphäre achtend, auf nachhaltige Entwicklung ausgerichtet und verantwortungsbewusst sind. Diese beziehen sich auf Systeme künstlicher Intelligenz im nichtmilitärischen Bereich. Ihr Lebenszyklus umfasst die Phasen Vorentwurf, Entwurf, Entwicklung, Bewertung, Erprobung, Demontage, Nutzung, Verkauf, Beschaffung, Betrieb und Außerdienststellung,
erkennt an, dass sichere und vertrauenswürdige Systeme der künstlichen Intelligenz das Potenzial haben, Fortschritte bei der Verwirklichung aller 17 Nachhaltigkeitsziele und der nachhaltigen Entwicklung in ihren drei Dimensionen – Wirtschaft, Soziales und Umwelt – in ausgewogener und integrativer Weise zu beschleunigen und zu ermöglichen;
erkennt an, dass sichere und vertrauenswürdige Systeme der künstlichen Intelligenz das Potenzial haben, den digitalen Wandel voranzutreiben, den Frieden zu fördern und die digitale Kluft zwischen und innerhalb von Ländern zu überbrücken, wobei der Mensch im Mittelpunkt stehen muss.
Darüber hinaus wird die Dringlichkeit betont, den Kapazitätsaufbau sowie die technische und finanzielle Unterstützung für Entwicklungsländer zu verstärken, um die digitale Kluft zwischen und innerhalb von Ländern zu überbrücken und die wirksame, faire und sinnvolle Beteiligung und Vertretung von Entwicklungsländern in internationalen Prozessen und Foren zur Steuerung von Systemen der künstlichen Intelligenz zu unterstützen.
Die Generalversammlung ist entschlossen, die digitalen Grenzen zwischen und innerhalb von Ländern zu überwinden, die durch künstliche Intelligenz und andere technologische Hürden geschaffen werden.
Die Generalversammlung beschließt ferner, sichere und vertrauenswürdige Systeme der künstlichen Intelligenz zu fördern, um die Fortschritte bei der vollständigen Umsetzung der Agenda 2030 für nachhaltige Entwicklung zu beschleunigen und alle 17 Ziele für nachhaltige Entwicklung sowie die nachhaltige Entwicklung in ihren drei Dimensionen – Wirtschaft, Soziales und Umwelt – zu erreichen.
Die Generalversammlung fordert zudem die verschiedenen Akteure in allen Regionen und Ländern auf, sichere und vertrauenswürdige Systeme der künstlichen Intelligenz zu entwickeln und zu unterstützen, die auf allen Ebenen ein günstiges Ökosystem schaffen. Dazu gehören auch Innovation, Unternehmertum und die Verbreitung von Wissen und Technologien zu vereinbarten Bedingungen.
Darüber hinaus fordert die Generalversammlung die Mitgliedstaaten auf, Maßnahmen zur Zusammenarbeit mit den Entwicklungsländern zu ergreifen, um sie bei der Verwirklichung eines breiten und gleichberechtigten Zugangs zu den Vorteilen der digitalen Transformation und zu sicheren und vertrauenswürdigen Systemen der künstlichen Intelligenz zu unterstützen, unter anderem durch
– Aufbau von Kapazitäten in den Entwicklungsländern,
– Verbesserung der digitalen Infrastruktur und des Zugangs zu technologischen Innovationen mittels verstärkter partnerschaftlicher Zusammenarbeit,
– Stärkung der Leistungsfähigkeit der am wenigsten entwickelten Entwicklungsländer im Bereich der künstlichen Intelligenz, um alle 17 Nachhaltigkeitsziele zu erreichen,
– Erhöhung der Mittel für Forschung und Innovation in Bezug auf die Nachhaltigkeitsziele.
Die Generalversammlung betont auch, dass Menschenrechte und Grundfreiheiten während des gesamten Lebenszyklus von KI-Systemen geachtet, geschützt und gefördert werden müssen. Sie fordert alle Mitgliedstaaten auf, nur solche KI-Systeme einzusetzen, die im Einklang mit den internationalen Menschenrechtsnormen betrieben werden können. In diesem Zusammenhang bekräftigt sie, dass die gleichen Rechte, die Menschen offline haben, auch online gelten müssen.
Die Generalversammlung ermutigt zudem alle Mitgliedstaaten, sichere und vertrauenswürdige KI-Systeme in integrativer und gerechter Weise zum Nutzen aller zu fördern, unter besonderer Berücksichtigung der Entwicklungsländer, und niemanden zurückzulassen. Es gilt dabei
– die Entwicklung und Umsetzung nationaler Regulierungs- und Governance-Konzepte und -Rahmenbedingungen zu fördern;
– wirksame innovationsfördernde Maßnahmen zu unterstützen;
– die Einbeziehung von Feedback-Mechanismen zu fördern, die es Endnutzern und Dritten ermöglichen, technische Schwachstellen und gegebenenfalls den Missbrauch von Systemen, die künstliche Intelligenz nutzen, zu erkennen und zu melden, damit Abhilfe geschaffen werden kann;
– die Öffentlichkeit zu sensibilisieren;
– die Entwicklung, Umsetzung und Offenlegung von Mechanismen zur Risikoüberwachung und zum Risikomanagement, zur Datensicherung und zur Folgenabschätzung während des gesamten Lebenszyklus von Systemen der künstlichen Intelligenz zu fördern;
– die Investitionen in die Entwicklung und Umsetzung wirksamer Schutzmaßnahmen, einschließlich des Risikomanagements, während des gesamten Lebenszyklus von KI-Systemen zu erhöhen;
– die Entwicklung und den Einsatz wirksamer, zugänglicher, anpassungsfähiger und dialogfähiger technischer Instrumente, Normen oder Verfahren auf globaler Ebene zu fördern. Dazu gehören zuverlässige Mechanismen zur Authentifizierung von Inhalten und zur Bestimmung ihrer Herkunft. Dadurch werden die Nutzer in die Lage versetzt, Manipulationen von Informationen zu erkennen, authentische digitale Inhalte von durch künstliche Intelligenz erzeugten oder manipulierten digitalen Inhalten zu unterscheiden oder deren Herkunft festzustellen;
– die Entwicklung und Umsetzung wirksamer Rahmenbedingungen, Praktiken und Standards für die Ausbildung und Prüfung dialogfähiger KI-Systeme auf globaler Ebene zu erleichtern, um Menschen vor allen Formen der Diskriminierung, Voreingenommenheit und des Missbrauchs zu schützen;
– Schutzmaßnahmen zu ergreifen, um die Rechte an geistigem Eigentum, einschließlich urheberrechtlich geschützter Inhalte, zu schützen und gleichzeitig Innovationen zu fördern;
– die Privatsphäre und den Schutz personenbezogener Daten bei der Erprobung und Bewertung von KI-Systemen zu wahren und die Anforderungen an Transparenz und Berichterstattung zu erfüllen;
– die Transparenz, Vorhersehbarkeit, Zuverlässigkeit und Verständlichkeit von Entscheidungen, die von KI-Systemen getroffen werden, zu fördern. Darüber hinaus wird die menschliche Aufsicht gefördert, beispielsweise durch die Überprüfung automatisierter Entscheidungen, wirksame Korrekturmaßnahmen und die Rechenschaftspflicht gegenüber denjenigen, die durch automatisierte Entscheidungen von KI-Systemen nachteilig betroffen sind;
– es wird verstärkt in die Entwicklung und Umsetzung wirksamer Schutzmaßnahmen zum Schutz der Menschenrechte und Grundfreiheiten investiert;
– KI-Systeme, die die sprachliche und kulturelle Vielfalt fördern, schützen und bewahren, werden gefördert;
– den Informationsaustausch zwischen den einzelnen Stellen zu fördern und zu intensivieren;
– die Forschung und die internationale Zusammenarbeit zu fördern, um die Vorteile und Risiken von KI-Systemen im Hinblick auf die Überbrückung der digitalen Kluft und die Erreichung der 17 Nachhaltigkeitsziele zu verstehen, gegeneinander abzuwägen und in Angriff zu nehmen;
– die Mitgliedstaaten werden aufgefordert, spezifische Maßnahmen zu ergreifen, um die digitale Kluft zwischen den Geschlechtern zu überwinden und die Gleichstellung von Menschen mit Behinderungen, die Gleichstellung von Männern und Frauen und die Rassengleichstellung in die politischen Entscheidungen einzubeziehen.
Die Generalversammlung erkennt auch an, dass Daten für die Entwicklung und den Betrieb von KI-Systemen von entscheidender Bedeutung sind. Sie betont, dass eine faire, integrative, verantwortungsvolle und effiziente Datenverwaltung, die Verbesserung der Datengenerierung und die Nutzung digitaler öffentlicher Güter unerlässlich sind, um das Potenzial sicherer und vertrauenswürdiger KI-Systeme für die nachhaltige Entwicklung auszuschöpfen. Sie fordert daher die Mitgliedstaaten nachdrücklich auf, die internationale Zusammenarbeit, Kooperation und Unterstützung bei der Datenverwaltung zu fördern.
Die Generalversammlung erkennt an, wie wichtig es ist, die Diskussion über die Entwicklungen im Bereich der KI-Governance fortzusetzen, damit internationale Ansätze mit der Entwicklung und Nutzung von KI-Systemen zum Nutzen aller Parteien Schritt halten.
Die Generalversammlung erkennt an, wie wichtig es ist, einen breiteren und gleichberechtigten Zugang zu den Vorteilen sicherer und vertrauenswürdiger KI-Systeme zu gewährleisten. Sie erkennt ferner an, dass eine verstärkte Zusammenarbeit erforderlich ist, um faire, offene, integrative und diskriminierungsfreie Rahmenbedingungen zu schaffen. Sie ermutigt daher die Mitgliedstaaten, faire Wettbewerbsbedingungen für Kleinunternehmen, Unternehmer und technische Talente zu fördern.
Die Generalversammlung ruft dazu auf, die Chancen und Herausforderungen von Systemen der künstlichen Intelligenz durch entsprechende interinstitutionelle Mechanismen kooperativ, koordiniert und integrativ anzugehen und darüber zu informieren.
Sie fordert außerdem, mit Entwicklungsländern zusammenzuarbeiten und sie beim Aufbau von Kapazitäten zu unterstützen. Den Entwicklungsländern soll der Zugang zu sicheren und vertrauenswürdigen KI-Systemen ermöglicht werden. Die Vorteile dieser Systeme sollen gemeinsam genutzt werden, um alle 17 Nachhaltigkeitsziele zu erreichen. Hervorgehoben wird die Notwendigkeit, die Kluft zwischen und innerhalb von Ländern in Bezug auf künstliche Intelligenz und andere digitale Aspekte zu überbrücken.