Nächste Schritte in der KI-Gouvernanz: Die Bedeutung umfassender GPAI-Modellevaluierungen
Während sich die Europäische Union auf die Umsetzung des KI-Gesetzes vorbereitet, ist die Sicherstellung robuster Evaluierungsmethoden...
top of page
Künstliche Intelligenz (KI)
_edited.png)
Die rasante Entwicklung von KI birgt zahlreiche Chancen, aber auch erhebliche Risiken.
Deepfakes und die Verbreitung von Fehlinformationen können das öffentliche Vertrauen untergraben und demokratische Prozesse stören. Darüber hinaus können Ausfälle von KI-Systemen, die in kritischen Infrastrukturen wie z. B. Energienetzen eingesetzt werden, schwerwiegende Folgen haben.
Der sichere Einsatz von KI ist daher eine wichtige Priorität. Eine intelligente Aufsicht und Normen sind unerlässlich, um die Chancen von KI zu nutzen und gleichzeitig Risiken einzuschränken.
Zu unseren Schwerpunkten im Bereich KI-Sicherheit gehören:
Vorschlag eines intelligenten Rechtsrahmens für fortgeschrittene KI
Ein regulatorischer Rahmen für KI ist unerlässlich, um Innovation und wirksames Risikomanagement in Einklang zu bringen. Durch die Festlegung vernünftiger Leitlinien fördert ein solcher Rahmen ein sicheres Entwicklungsumfeld, insbesondere für leistungsfähige Modelle. Ein wichtiger Aspekt ist die Verpflichtung zur Evaluierung fortschrittlicher KI-Modelle durch Dritte, um eine umfassende Prüfung vor der Markteinführung sicherzustellen. Anders als bei technischen Geräten wie Toastern steckt die Regulierung von KI in Europa und weltweit noch in den Kinderschuhen. Solide Rahmenbedingungen verringern die Unsicherheit, fördern Investitionen und garantieren, dass KI-Technologien einen positiven Beitrag zur Gesellschaft leisten, während mögliche negative Auswirkungen aktiv angegangen werden.
_edited.png)
Schwerpunkte
Gestaltung von Industrienormen
Ergänzend zu den rechtlichen Rahmenbedingungen spielt die Entwicklung detaillierter Branchennormen, wie die von ISO und CEN/CENELEC, eine entscheidende Rolle bei der Gewährleistung eines sicheren und ethischen Einsatzes von KI. Diese Normen bieten einen Bottom-up-Ansatz für die Steuerung und bieten spezifische technische Richtlinien, die sich schneller an den technologischen Fortschritt anpassen lassen als Gesetze. Pour Demain beteiligt sich aktiv an diesen technischen Diskussionen und trägt mit seinem Fachwissen zur Gestaltung von Normen bei, die eine sichere und ethische Innovation ermöglichen.
Beitrag zur internationalen KI-Gouvernanz
Die internationale Gouvernanz von KI ist von zentraler Bedeutung. Initiativen wie die KI-Konvention des Europarats und politische Empfehlungen der G7 und der OECD spielen eine wichtige Rolle bei der Gestaltung globaler Standards. Ergänzt werden diese Bemühungen durch die laufenden Arbeiten im Rahmen von Folgegipfeln des britischen KI-Sicherheitsgipfels 2023, bei denen die wichtigsten Interessengruppen zusammenkommen, um die KI-Sicherheit und Gouvernanz-Rahmenbedingungen voranzubringen. Das Team von Pour Demain trägt aktiv zu diesen internationalen Bemühungen bei und nutzt sein Fachwissen, um politische Empfehlungen und Standards mitzugestalten.
Stärkung der Forschung zur KI-Sicherheit
KI-Systeme, insbesondere Deep-Learning-Modelle, sind oft undurchsichtig, was das Verständnis ihrer Entscheidungsprozesse erschwert. Diese Undurchsichtigkeit ist in kritischen Bereichen wie dem Gesundheitswesen und der Justiz problematisch. Daher ist es wichtig, die Interpretierbarkeit von KI durch Forschung zu verbessern, um KI-Entscheidungen transparent, rechenschaftspflichtig und zuverlässig zu machen. Pour Demain setzt sich für internationale und nationale Forschungsinitiativen ein, die sich mit der Interpretierbarkeit von KI befassen.
Überwachung des Einsatzes von KI in kritischen Infrastrukturen
Pour Demain ist bestrebt, den Einsatz fortschrittlicher KI in kritischen Sektoren wie Gesundheit und Energie zu überwachen, um politische Entscheidungsträger zu informieren (z.B. Umfrage 2023). Ziel dieser Bemühungen ist es, den Einsatz von KI zu erfassen und die notwendigen politischen Massnahmen für ihren sicheren Einsatz anzuleiten. Solche datengestützten Erkenntnisse tragen dazu bei, dass KI diese Sektoren auf verantwortungsvolle Weise verbessert und den technologischen Fortschritt mit dem Wohl der Gesellschaft in Einklang bringt.
Organisation KI-Sicherheitspreis
Pour Demain hat einen KI-Sicherheitspreis organisiert, um politische Entscheidungsträger und Führungskräfte aus der Wirtschaft auf KI-Sicherheitsprobleme aufmerksam zu machen. Ziel des Wettbewerbs ist es, Sicherheitslücken aufzudecken, das Bewusstsein für KI-Sicherheit zu schärfen und zum Handeln aufzufordern. Er dient als Plattform, um die Entwicklung sicherer KI voranzutreiben und Politik wie Wirtschaft dafür zu sensibilisieren, dass Sicherheit und Ethik bei KI-Fortschritten Vorrang haben.
Bleiben Sie auf dem Laufenden über unsere Arbeit.
Abonnieren Sie unseren Newsletter
bottom of page