Die australische Regierung leitet eine Konsultation ein, um das Verbot von KI mit „hohem Risiko“ zu bewerten – Cryptopolitan

Die australische Regierung hat eine unerwartete achtwöchige Konsultationsphase eingeleitet, um festzustellen, ob bestimmte „risikoreiche“ Tools der künstlichen Intelligenz (KI) verboten werden sollten. Dieser Schritt folgt ähnlichen Maßnahmen, die auch andere Regionen, darunter die Vereinigten Staaten, die Europäische Union und China, ergriffen haben, um den Risiken zu begegnen, die mit der schnellen KI-Entwicklung verbunden sind.

Am 1. Juni stellte Industrie- und Wissenschaftsminister Ed Husic zwei Papiere zur öffentlichen Begutachtung vor: eines über „Sichere und verantwortungsvolle KI in Australien“ und ein weiteres über generative KI vom National Science and Technology Council. Diese Papiere wurden im Rahmen einer Konsultationsphase veröffentlicht, die bis zum 26. Juli läuft.

Die australische Regierung bittet um Feedback zu Strategien zur Förderung des „sicheren und verantwortungsvollen Einsatzes von KI“ und prüft Optionen wie freiwillige ethische Rahmenwerke, spezifische Vorschriften oder eine Kombination beider Ansätze. Insbesondere geht es in der Konsultation direkt um die Frage, ob bestimmte KI-Anwendungen oder -Technologien mit hohem Risiko vollständig verboten werden sollten, und um Angaben zu den Kriterien für die Identifizierung solcher Tools.

Das umfassende Diskussionspapier enthält einen Entwurf einer Risikomatrix für KI-Modelle, die selbstfahrende Autos als „hohes Risiko“ einstuft, und generative KI-Tools zur Erstellung medizinischer Patientenakten als „mittleres Risiko“. Das Dokument betont sowohl die positiven Anwendungen von KI in Bereichen wie Medizin, Technik und Recht als auch die potenziellen Schäden, die mit Deepfake-Tools, der Generierung gefälschter Nachrichten und Fällen verbunden sind, in denen KI-Bots zur Selbstverletzung ermutigt haben.

Australische Regierung vs. KI

Bedenken hinsichtlich der Verzerrung in KI-Modellen sowie der Erzeugung unsinniger oder falscher Informationen, die als „Halluzinationen“ durch KI-Systeme bekannt sind, werden im Diskussionspapier ebenfalls angesprochen. Es wird anerkannt, dass die Einführung von KI in Australien derzeit aufgrund des geringen öffentlichen Vertrauens begrenzt ist. Das Papier verweist als Beispiele auf KI-Vorschriften, die in anderen Gerichtsbarkeiten umgesetzt wurden, und auf das vorübergehende Verbot von ChatGPT in Italien.

Darüber hinaus hebt der Bericht des National Science and Technology Council Australiens vorteilhafte Fähigkeiten in den Bereichen Robotik und Computer Vision hervor, stellt jedoch relative Schwächen in Kernbereichen wie großen Sprachmodellen fest. Es gibt Anlass zur Sorge hinsichtlich der Konzentration generativer KI-Ressourcen in einer kleinen Anzahl überwiegend in den USA ansässiger Technologieunternehmen, die potenzielle Risiken für Australien birgt.

Der Bericht untersucht die globale KI-Regulierung weiter, liefert Beispiele für generative KI-Modelle und legt nahe, dass solche Modelle wahrscheinlich weitreichende Auswirkungen auf Sektoren haben werden, die vom Banken- und Finanzwesen bis hin zu öffentlichen Dienstleistungen, Bildung und Kreativwirtschaft reichen.