Das Ende der Menschheit durch KI mit einem Zulassungsverfahren kontrollieren? TÜV-Verband fordert Zulassungsverfahren für gefährliche KI-Anwendungen. Nun, was ist denn eine gefährliche KI?

KI-Systeme sollten dabei in Risikoklassen unterteilt und nach ihrem Gefährdungspotenzial reguliert werden. Die Maßnahmen könnten von einem vollständigen Regulierungsverzicht über formelle Vorgaben wie Transparenzpflichten und Zulassungsverfahren vor der Markteinführung bis zu einem Verbot bestimmter, besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen.

Wer also eine KI entwickeln will, muss vorher ein Formular ausfüllen, bevor er loslegen darf?

Kleiner Tipp am Rande: bei der Frage „soll die KI die Menschheit vernichten?“ niemals mit Ja beantworten.