Künstliche Intelligenz

Große spanische Unternehmen beginnen, die Nutzung von ChatGPT durch ihre Mitarbeiter einzuschränken oder sogar zu verbieten. Als Grund wird die Gefahr genannt, dass vertrauliche Unternehmensinformationen nach außen dringen könnten.

Der Artikel wurde aktualisiert mit Stand Ende 2024.

Die künstliche Intelligenz ist schon eine beeindruckende Sache, oder? Sie versteht und schreibt Texte, analysiert Bilder – und das so gut, dass man ihre Kreationen oft für menschengemacht halten könnte.

Die rapide gestiegene Nutzung von KI, insbesondere von ChatGPT, hat bei zahlreichen großen spanischen Unternehmen Besorgnis ausgelöst. Sie sehen sich veranlasst, zeitnah Richtlinien und Beschränkungen für die Verwendung des populären Tools durch ihre Mitarbeitenden zu etablieren, um potenzielle Lecks und Fehler zu vermeiden.

Telefónica, BBVA oder Redeia beschränken oder verbieten die Nutzung von Künstlicher Intelligenz.

Die Unternehmen weisen darauf hin, dass die von dem Tool generierten Informationen häufig verzerrt oder fehlerhaft sein können. Ferner besteht die Gefahr, dass persönliche Daten und Unternehmensdaten eingegeben werden und undichte Stellen entstehen können.

Was ist ChatGPT?

Bei ChatGPT handelt es sich um einen Prototyp eines Chatbots, welcher von der US-amerikanischen Firma OpenAI entwickelt und im November 2022 der Öffentlichkeit zugänglich gemacht wurde. Mit diesem Tool ist es möglich, einen Dialog zu fast jedem erdenklichen Thema zu führen. ChatGPT beantwortet Fragen oder verfasst Texte, welche als Grundlage für weitere Abfragen dienen können. Bei der Entwicklung des Tools kamen Deep-Learning-Modelle und neuronale Netze zum Einsatz. Inzwischen hat OpenAI die vierte Version der GPT-Technologie veröffentlicht.

Angesichts dieser Gefahren haben sich Regierungen, Unternehmen und Experten mit Nachdruck für die rasche Einführung und Verbesserung der generativen KI-Funktionen eingesetzt. In einem Manifest, das von führenden Vertretern der Technologiebranche wie dem SpaceX-Eigentümer Elon Musk und dem Apple-Mitbegründer Steve Wozniak unterzeichnet wurde, wird ein sechsmonatiger Entwicklungsstopp gefordert. Apple selbst hat seinen Mitarbeitern die Nutzung des Tools untersag

"Wir fordern alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens 6 Monate zu unterbrechen.“

In Anbetracht der vorliegenden Situation haben verschiedene spanische Unternehmen wie Telefónica, BBVA und Redeia (Stromversorgungsnetz) gegenüber einer der großen spanischen Zeitschriften bestätigt, dass sie die Nutzung dieses Tools durch ihre Mitarbeiter verboten oder eingeschränkt haben.

Im Falle des Telekommunikationsbetreibers Telefónica erlaubt das Unternehmen die Nutzung des Tools zur Verarbeitung oder Speicherung von Unternehmensdaten nur, wenn das Konto von dem Unternehmen selber in Auftrag gegeben und kontrolliert wird.

Redeia hat die Nutzung der öffentlichen Version der Anwendung aufgrund potenzieller Risiken im Zusammenhang mit dem Schutz von Informationen blockiert. Dies ist insbesondere relevant, da es sich um ein Unternehmen handelt, das strategische Infrastrukturen verwaltet. Andere Unternehmen, die Infrastrukturen von besonderer Bedeutung für Spanien betreiben, wie Naturgy und Enagás, haben ihren Mitarbeitern Empfehlungen zur Nutzung dieser und anderer künstlicher Intelligenzen übermittelt.

Im Falle von Repsol wird das Unternehmen Grundsätze für den korrekten Einsatz von KI in seinen neuen Ethikkodex aufnehmen. Zudem arbeitet es an Unternehmensrichtlinien, die als Leitfaden für künftige Anwendungen dienen sollen, sowie an einem Schulungsprogramm für Mitarbeiter. Auch das Versicherungsunternehmen Mapfre arbeitet an entsprechenden Richtlinien, um sicherzustellen, dass künstliche Intelligenz sicher und ethisch korrekt eingesetzt wird.

Im Bankensektor sind bezüglich dieses Themas keine spezifischen Maßnahmen bekannt, obwohl die Unternehmen dafür bekannt sind, den Zugang zu offenen oder persönlichen Anwendungen für ihre Mitarbeitenden einzuschränken. Der Vorstandsvorsitzende der CaixaBank, Gonzalo Gortázar, hat auf einer Veranstaltung das Potenzial der Anwendung anerkannt. Er betonte jedoch, dass sie, falls sie eingesetzt werden, in geschlossenen Umgebungen verwendet werden müssten, um sensible Kundendaten zu schützen.

Was erwarten die Unternehmen?

Gemäß den Ergebnissen einer Umfrage spanischer Unternehmen herrscht unter den Befragten Einigkeit darüber, dass die ethische Nutzung der KI als zwingend erforderlich angesehen werden sollte. Als Inspirationsquellen dienen ihnen dabei die Fortschritte und Empfehlungen sowohl privater als auch öffentlicher Organisationen. Darüber hinaus erwarten die Unternehmen, dass in absehbarer Zeit eine Verordnung in Kraft treten wird, die die Rahmenbedingungen festlegt, nach denen die Künstliche Intelligenz (ChatGPT) in den Arbeitsprozessen der Unternehmen zu regeln ist.

Sam Altman selbst, Gründer von Open AI und Schöpfer von ChatGPT, hat im US-Senat eine verstärkte Regulierung der Plattform gefordert. Er schloss sich auch der Forderung des Telefónica-Vorsitzenden José María Álvarez Pallete an, eine internationale Agentur zur Überwachung der KI einzurichten.

Die EU legt einheitliche Regeln für Künstliche Intelligenz (KI) fest

Im Mai 2024 haben die Mitgliedsstaaten der Europäischen Union das weltweit erste Gesetz zur Regulierung von Künstlicher Intelligenz verabschiedet. Nun obliegt es den EU-Staaten, den sogenannten AI Act in nationales Recht umzusetzen.

Die spanische Regierung verfolgt das Ziel, mögliche Innovationshindernisse zu vermeiden und ist daher bestrebt, eine eigene Regulierungsbehörde für Künstliche Intelligenz (KI) zu etablieren. Die Agentur soll Aufgaben in den Bereichen Aufsicht und Risikovermeidung wahrnehmen und ein KI-Forschungs- und Unternehmensökosystem schaffen. Im September 2022 wurde das Verfahren zur Auswahl des Sitzes der spanischen Aufsichtsbehörde für künstliche Intelligenz eingeleitet. Sollte das Projekt realisiert werden, wäre Spanien das erste europäische Land mit einer Aufsichtsbehörde für Künstliche Intelligenz (KI) im Rahmen der künftigen EU-Verordnungen.

Spanien strebt eine Führungsposition im Bereich der KI an und plant als erstes europäisches Land die Einrichtung einer Aufsichtsbehörde für künstliche Intelligenz.

Im Juni 2024 präsentierte der Minister für digitale Transformation und öffentliche Verwaltung, José Luis Escrivá, gemeinsam mit der Staatssekretärin für Digitalisierung und Künstliche Intelligenz, Mayte Ledo, die neu gegründete spanische Agentur AESIA. Mayte Ledo wird die Position der Präsidentin von AESIA einnehmen, während Ignasi Belda zum neuen Direktor der Agentur ernannt wurde. Der Sitz der Agentur befindet sich in A Coruña.

Mehr zu ChatGPT

Foto: Alexandra_Koch