OpenAI-Chef Sam Altman hält die Sorgen vieler Menschen über die rasante Entwicklung Künstlicher Intelligenz für nachvollziehbar. Gleichzeitig fordert er mehr Vertrauen in die Unternehmen, die besonders leistungsfähige KI-Systeme entwickeln.
„Die Welt hat zu Recht Angst davor“, sagte Altman auf einer Technologiekonferenz in San Francisco. Die Fähigkeiten moderner KI hätten sich so schnell entwickelt, dass man sich inzwischen leichter vorstellen könne, wie die Technologie außer Kontrolle geraten könnte.
Trotzdem glaubt Altman, dass Unternehmen wie OpenAI selbst in der Lage seien, für ausreichende Sicherheitsstandards zu sorgen. Seine Branche werde darauf achten, dass Sicherheitsmechanismen mit der Leistungsfähigkeit der Systeme Schritt hielten. Sollte dies nicht mehr möglich sein, müssten Entwickler die Entwicklung verlangsamen oder im Extremfall stoppen.
Damit steht eine zentrale Frage der KI-Debatte erneut im Mittelpunkt: Können Unternehmen, die Milliarden mit immer leistungsfähigeren Systemen verdienen, gleichzeitig ihre eigenen wirksamsten Kontrolleure sein?
Auch andere Konzernchefs setzen auf Selbstregulierung. Nvidia-Chef Jensen Huang argumentiert, neue Gesetze seien nicht notwendig. Sicherheit sei vor allem ein technisches Problem. Unternehmen müssten selbst entscheiden, ob ein neues Modell sicher genug für eine Veröffentlichung sei.
Kritiker halten dieses Vertrauen in die Branche für riskant. Anthropic-Mitgründer Jack Clark warnte davor, eine Technologie mit möglicherweise enormen gesellschaftlichen Folgen praktisch unreguliert zu lassen. Patrick Hillman vom KI-Unternehmen Logical Intelligence verwies zudem darauf, dass das öffentliche Vertrauen in große Technologiekonzerne ohnehin gering sei. Wer selbst behaupte, eine Technologie könne gefährlich werden, müsse auch zeigen, auf welche Entwicklungen oder Geschäfte er im Zweifel tatsächlich verzichten würde.
Der Streit hat zuletzt an Schärfe gewonnen, nachdem ehemalige und aktive Mitarbeiter von KI-Unternehmen vor möglichen extremen Risiken zukünftiger Systeme gewarnt hatten. Anthropic-Chef Dario Amodei fordert inzwischen eine langsamere Entwicklung sowie gemeinsame Sicherheitsstandards.
OpenAI, Anthropic und Google DeepMind arbeiten nach eigenen Angaben bereits an freiwilligen, branchenweiten Regeln.
Damit bleibt allerdings ein Widerspruch bestehen: Die KI-Unternehmen warnen selbst vor den möglichen Gefahren ihrer Technologie – und bitten gleichzeitig darum, ihnen bei der Kontrolle dieser Gefahren zu vertrauen.
Kommentar hinterlassen