Offene KI-Systeme: Fortschritte und Herausforderungen in Transparenz und Sicherheit

Die Entwicklung von Open-Source-KI hat in den letzten Monaten an Dynamik gewonnen. Unternehmen wie OpenAI und Google investieren Milliarden in leistungsfähigere KI-Systeme, während offene Modelle bemerkenswerte Fortschritte machen.

Eine zentrale Schwäche bleibt: Viele Open-Source-Systeme sind nur teilweise offen. Ein Beispiel ist Meta’s Llama, bei dem die „Weights“ offengelegt werden, die Trainingsdaten jedoch verborgen bleiben.

Entwickler können quasi-offene Modelle anpassen und auf ihre eigenen Daten trainieren, ohne sensible Informationen weiterzugeben. Ayah Bdeir von der Mozilla Foundation betont, dass nur wirklich offene Technologien ein umfassendes Verständnis der Systeme ermöglichen.

Die Open Source Initiative hat eine nahezu finale Definition für Open-Source-KI präsentiert. Diese fordert die Veröffentlichung der „Weights“, der Trainingsdaten und des zugrundeliegenden Codes.

Diese Bewegung führt zu einer stärkeren Segmentierung in der KI-Welt. Unternehmen wie Mistral bezeichnen ihre Modelle als „Open Weights“ und vermeiden den Begriff „Open Source“.

Vollständig offene Modelle wie das Olmo-Sprachmodell des Allen Institute for AI entstehen, doch ihr Einfluss auf die KI-Welt bleibt abzuwarten.

Für einen Durchbruch offener KI-Modelle wären zwei Dinge notwendig: Erstens müsste die Technologie ein großes Bedürfnis decken, um eine kritische Masse anzuziehen. Zweitens müssten überzeugendere Argumente für deren Sicherheit vorgebracht werden.

Oren Etzioni vom Allen Institute hält viele Ängste für übertrieben und argumentiert, dass die durch KI-Modelle zugänglichen Informationen nicht wesentlich anders seien als das, was bereits über Google verfügbar ist.

Bis die potenziellen Risiken und Vorteile gründlicher untersucht sind, werden die Bedenken jedoch bestehen bleiben.

Quelle: Eulerpool Research Systems