Das Weiße Haus sichert sich Sicherheitszusagen von weiteren acht KI-Unternehmen

Die Biden-Harris-Administration hat angekündigt, dass sie in einer zweiten Runde freiwillige Sicherheitszusagen von acht namhaften KI-Unternehmen erhalten hat.

Vertreter von Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI und Stability nahmen an der Ankündigung im Weißen Haus teil. Diese acht Unternehmen haben sich verpflichtet, eine entscheidende Rolle bei der Förderung der Entwicklung von sicherer, vertrauenswürdiger und sicherer KI zu spielen.

Die Biden-Harris-Administration arbeitet aktiv an einer Exekutivanordnung und verfolgt bipartisane Gesetzgebung, um sicherzustellen, dass die USA in der verantwortungsbewussten KI-Entwicklung an vorderster Front stehen, die ihr Potenzial freisetzt und ihre Risiken bewältigt.

Die von diesen Unternehmen getroffenen Verpflichtungen drehen sich um drei grundlegende Prinzipien: Sicherheit, Schutz und Vertrauen. Sie haben sich verpflichtet:

Sicherstellen, dass Produkte sicher sind, bevor sie eingeführt werden:

Die Unternehmen verpflichten sich zu rigorosen internen und externen Sicherheitstests ihrer KI-Systeme, bevor sie sie der Öffentlichkeit zugänglich machen. Dies umfasst Bewertungen durch unabhängige Experten, um gegen erhebliche KI-Risiken wie Biosecurity, Cybersicherheit und breitere gesellschaftliche Auswirkungen zu schützen.

Sie werden auch aktiv Informationen zur KI-Risikobewältigung mit Regierungen, Zivilgesellschaft, Wissenschaft und der Industrie teilen. Dieser gemeinsame Ansatz wird das Teilen bewährter Verfahren für die Sicherheit, Informationen über Versuche, Sicherheitsvorkehrungen zu umgehen, und technische Zusammenarbeit einschließen.

Systeme mit Sicherheit als oberste Priorität aufbauen:

Die Unternehmen haben zugesagt, in Cybersicherheit und Schutzmaßnahmen gegen Insider-Bedrohungen zu investieren, um proprietäre und unveröffentlichte Modellgewichte zu schützen. Angesichts der herausragenden Bedeutung dieser Modellgewichte in KI-Systemen verpflichten sie sich, sie nur freizugeben, wenn dies beabsichtigt ist und wenn Sicherheitsrisiken angemessen berücksichtigt wurden.

Darüber hinaus werden die Unternehmen die Entdeckung und Meldung von Schwachstellen in ihren KI-Systemen durch Dritte erleichtern. Dieser proaktive Ansatz stellt sicher, dass Probleme auch nach Bereitstellung eines KI-Systems schnell identifiziert und behoben werden können.

Das Vertrauen der Öffentlichkeit gewinnen:

Um die Transparenz und Rechenschaftspflicht zu stärken, werden die Unternehmen robuste technische Mechanismen entwickeln, wie zum Beispiel Wasserzeichen-Systeme, um anzuzeigen, wann Inhalte von KI generiert wurden. Dieser Schritt soll Kreativität und Produktivität fördern und gleichzeitig die Risiken von Betrug und Täuschung reduzieren.

Sie werden auch öffentlich über die Fähigkeiten, Einschränkungen und Bereiche der angemessenen und unangemessenen Verwendung ihrer KI-Systeme berichten, sowohl in Bezug auf Sicherheits- als auch auf gesellschaftliche Risiken, einschließlich Fairness und Vorurteile. Darüber hinaus verpflichten sich diese Unternehmen dazu, Forschung zu den gesellschaftlichen Risiken von KI-Systemen zu priorisieren, einschließlich der Bekämpfung schädlicher Vorurteile und Diskriminierung.

Diese führenden KI-Unternehmen werden auch fortschrittliche KI-Systeme entwickeln und einsetzen, um bedeutende gesellschaftliche Herausforderungen zu bewältigen, von der Krebsprävention bis zur Bekämpfung des Klimawandels, und so zum Wohlstand, zur Gleichheit und zur Sicherheit aller beitragen.

Das Engagement der Biden-Harris-Administration in Bezug auf diese Verpflichtungen erstreckt sich über die USA hinaus und umfasst Konsultationen mit zahlreichen internationalen Partnern und Verbündeten. Diese Verpflichtungen ergänzen globale Initiativen, darunter den Summit on AI Safety des Vereinigten Königreichs, die Führung Japans im Rahmen des G-7 Hiroshima Process und die Rolle Indiens als Vorsitzender der Global Partnership on AI.

Die Ankündigung markiert einen bedeutenden Meilenstein auf dem Weg zur verantwortungsvollen KI-Entwicklung, bei dem Industrieführer und die Regierung zusammenarbeiten, um sicherzustellen, dass die KI-Technologie der Gesellschaft zugute kommt und gleichzeitig ihre inhärenten Risiken gemindert werden.