TMC Net, Oktober 23, 2023

Die generative KI, die sich durch ihre Fähigkeit auszeichnet, Inhalte, Daten und sogar menschenähnliche Texte und Bilder zu erstellen, gewinnt in verschiedenen Branchen immer mehr an Bedeutung. Es verspricht zwar innovative Lösungen, aber sein rasantes Wachstum bringt auch neue Geschäftsrisiken mit sich.

Diese Risiken umfassen Bedenken hinsichtlich des Missbrauchs von KI-generierten Inhalten für Fehlinformationen und Betrug, Streitigkeiten über geistiges Eigentum im Zusammenhang mit KI-generierten Werken und die ethischen Implikationen von KI-gesteuerten Entscheidungen. Besorgniserregend ist, dass die Unternehmen sich der Bedrohungen durch generative KI nicht bewusst sind. Ich habe kürzlich eine Geschichte darüber geschrieben.

Eine neue Studie, veröffentlicht von Riskonnectgeht noch ein paar Schritte weiter und zeigt, dass nur 9 % der Unternehmen bereit sind, die mit dem Einsatz von generativer KI im Unternehmen verbundenen Risiken zu managen, und nur 17 % der Risiko- und Compliance-Führungskräfte ihre Organisationen formell zu den Risiken des Einsatzes generativer KI geschult oder informiert haben.

An vorderster Front stehen Fragen des Datenschutzes und der Cybersicherheit. 65% der Unternehmen äußern sich besorgt über den Schutz sensibler Informationen und potenzielle Cyberbedrohungen. Darüber hinaus ist das Risiko, dass Mitarbeiter Entscheidungen auf der Grundlage von ungenauen KI-generierten Informationen treffen, eine erhebliche Befürchtung, von der 60 % der Unternehmen betroffen sind, was die dringende Notwendigkeit unterstreicht, die Genauigkeit der Daten und die Schulung der Mitarbeiter sicherzustellen.

Ethische Bedenken im Zusammenhang mit dem Missbrauch von KI durch Mitarbeiter und den breiteren ethischen Implikationen von KI-Technologien betreffen 55% der Unternehmen und machen die Einführung robuster ethischer Richtlinien erforderlich. Der unethische Einsatz von KI kann die Manipulation von KI-generierten Inhalten für betrügerische oder böswillige Zwecke beinhalten, wie z.B. die Erstellung von gefälschten Bewertungen, Deepfake-Videos oder Fehlinformationen, die das Vertrauen und die Glaubwürdigkeit untergraben können.

Die Sicherstellung einer ethischen KI-Nutzung erfordert eine solide Mitarbeiterschulung und die Festlegung klarer Richtlinien, um Missbrauch zu verhindern und gleichzeitig die Grundsätze der Fairness, Transparenz und Verantwortlichkeit zu wahren.

Die Studie ergab auch, dass die Vorbereitung der Unternehmen auf das Risikomanagement zu wünschen übrig lässt. 63% der Unternehmen haben es nicht geschafft, ihre Worst-Case-Szenarien zu simulieren. Dies deutet auf eine Lücke bei der Antizipation und Abmilderung unvorhersehbarer Risikoereignisse hin. Nur 5% der Unternehmen fühlen sich ausreichend vorbereitet, um unvorhersehbare Risikoereignisse zu bewerten, zu managen und sich von ihnen zu erholen, was die Notwendigkeit umfassender Risikomanagementstrategien unterstreicht.

Lesen Sie den vollständigen Artikel in TMC Net.>>