Während sich die Europäische Union auf die Umsetzung des KI-Gesetzes vorbereitet, ist die Sicherstellung robuster Evaluierungsmethoden für General Purpose AI (GPAI) Modelle von entscheidender Bedeutung. Dieser Artikel untersucht die Notwendigkeit umfassenderer Evaluierungsansätze, die über einfache Black-Box-Tests hinausgehen und dabei gründliche Bewertungen mit dem Schutz geistigen Eigentums in Einklang bringen.
Die kommenden "Codes of Practice" des EU-KI-Büros für den Einsatz von GPAI-Modellen sollten mehrdimensionale Evaluierungsansätze priorisieren, die über Black-Box-Tests hinausgehen. Zentrale Empfehlungen sind:
Förderung eines "de facto" White-Box-Zugangs für unabhängige Drittprüfer durch massgeschneiderte APIs, um eine gründliche Evaluierung mit IP-Schutz in Einklang zu bringen.
Erleichterung des Zugangs zu Kontextinformationen für umfassende Audits, einschliesslich relevanten Codes, technischer Dokumentation und interner Evaluierungsergebnisse.
Implementierung eines mehrschichtigen Rahmenwerks von Schutzmassnahmen für die Modellevaluierung, das technische, physische und rechtliche Massnahmen kombiniert, um geschützte Informationen zu sichern und gleichzeitig aussagekräftige Bewertungen zu ermöglichen.
Diese Empfehlungen zielen darauf ab, die Fähigkeit der EU zur Bewertung und Minderung von GPAI-Modellrisiken zu verbessern und ihre Position als globaler Vorreiter in der KI-Gouvernanz zu stärken. Durch die Priorisierung von Transparenz, Fairness und robusten Evaluierungsmethoden kann die EU Vertrauen und Innovation in ihrem KI-Sektor fördern und gleichzeitig Bürger:innen und Unternehmen schützen.
Der Artikel betont die Grenzen von Black-Box-Tests und befürwortet ein Spektrum von Zugriffsebenen, von Black-Box über White-Box bis hin zu "Outside-the-Box"-Evaluierungen. Er behandelt auch Bedenken hinsichtlich des Schutzes geistigen Eigentums und schlägt verschiedene Mechanismen vor, um die Risiken umfassenderer Evaluierungen zu minimieren.
Durch die Annahme dieser Empfehlungen kann die EU sicherstellen, dass ihr KI-Gouvernanz-Rahmen anpassungsfähig an das sich schnell entwickelnde Feld der GPAI-Modellevaluierung bleibt und einen globalen Standard für verantwortungsvolle KI-Entwicklung und -Implementierung setzt.
Lesen Sie hier das vollständige Briefing.
Bei Fragen wenden Sie sich bitte an unseren KI-Programmleiter David Marti unter david.marti@pourdemain.ch