ChatGPT in Unternehmen – Chancen, Risiken, Regelungsbedarf

Der Hype um ChatGPT ist ungebrochen und es erscheinen tägliche neue Berichte über Anwendungsbereiche der KI-Anwendung für Unternehmen, Selbständige und private Akteure. Dies reicht von Anwendungsmöglichkeiten zur Ideengewinnung und Produktivitätssteigerung bis hin zu einer „Entlastung“ von Arbeitnehmenden für einen entspannteren Arbeitsalltag.

Im Unterschied zu anderen bahnbrechenden Erfindungen ist der Zugang zum Produkt ChatGPT sehr niedrigschwellig, da es faktisch von jedermann genutzt werden kann. Gerade der einfache Zugang und die Möglichkeit der Nutzung durch jede Person führt zu Chancen und Risiken für Unternehmen.

Anwendungsbereiche von ChatGPT und ähnlichen Anwendungen in Unternehmen

Die Anwendungsbereiche der Software sind vielfältig. Der offensichtliche Use-Case liegt in der Generierung von schriftlichem Content. Dies betrifft Blog-Artikeln u.ä. aber auch das Umformulieren von ganzen Artikeln oder nur einfachen Sätzen. Hierin kann man bereits zwischen Hilfsmittel zur Arbeitserleichterung und Produktivitätssteigerung einerseits und der Ersetzung menschlicher Arbeit durch eine Software andererseits unterscheiden.

Durch die Suchmaschinen-Nähe und der neuen Einbindung in Bing eröffnet sich sodann ein weiterer Bereich. Die Anwendung wird nicht nur für die Generierung von Content sondern auch zur bloßen Informationsbeschaffung genutzt. Die Sucheingaben können allgemeiner aber auch sehr spezifischer Natur sein und personenbezogene Daten oder gar Betriebsgeheimnisse beinhalten.

Sodann ist die Anwendung offenbar sehr gut darin auch im Bereich der Softwareentwicklung genutzt zu werden. Hier reichen die Möglichkeiten von der Programmierung einfacher Standardbausteine bis hin zur Überprüfung von Softwarecode auf Bugs u.ä. Je kreativer der Umgang mit der Anwendung ist, desto kreativer werden auch die Ergebnisse.

Die Anwendungsbereiche werden durch ergänzende Tools aus dem Hause OpenAI wie DALLE:E 2 zur Bildgenerierung oder durch Software von anderen Anbietern enorm erweitert. Manche Anwendungen werten z.B. den Kalender aus, um den eigenen Terminplan mit To-Dos aus Listen zu füllen, um eine besonders effiziente Zeitgestaltung zu gewährleisten.  

Faktische Probleme bei der Anwendung von ChatGPT

Für den durchschnittlichen Arbeitnehmer und Internetnutzer ist der Bereich „Künstliche Intelligenz“ noch recht abstrakt und wenig mit Leben gefüllt. Vorwiegend stammen die Berührungspunkte wohl aus dem Bereich des autonomen Fahrens oder aus einer durch Film & Fernsehen geprägte Sichtweise. Dies ist in gewisser Weise mit Risiken behaftet:

Funktionsweise

Entgegen einer herkömmlichen Suchmaschine oder einer „normalen“ Software, handelt es sich bei einer KI-Anwendung aber offenbar nicht um eine „Einbahnstraße“. ChatGPT funktioniert also nicht nach dem Suchmaschinen-Motto „Anfrage rein, Ergebnisliste raus“. 

Vielmehr ist der Ansatz die Frage individuell zu beantworten. Dabei lernen KI-Anwendungen zunächst durch die Trainingsdaten, welche vor Veröffentlichung in die Entwicklung eingeflossen sind. Es kann aber nicht sichergestellt werden, dass die Anwendung nicht durch die individuellen Eingaben der nutzenden Personen "weiterlernt".

Die Eingabe wird also nicht nur statistisch analysiert, sondern im Zweifel auch weiterverarbeitet. Die Eingaben können damit theoretisch das Wissen vergrößern, auf welches die Software zurückgreifen kann. Zugleich bekommt man für die Ausgaben in der Regel keine Quellen geliefert, sodass nicht gesagt werden kann, woher die Daten stammen und was für Informationen mit eingeflossen sind.

Trainingsdaten

Eine weitere Thematik, welcher man sich in diesem Bereich stellen muss, ist der Fakt, dass zwar bekannt ist, dass ChatGPT mit einer großen Datenmenge trainiert wurde. Es ist aber nicht klar, welche Daten mit welchem Meinungsschwerpunkt darin eingeflossen sind.

Insofern kann weder verlässlich gesagt werden, auf wessen Informationen und Meinungsstand sich berufen wird noch ob diese Prägung auch mit dem eigenen unternehmerischen Ansatz in Einklang zu bringen sind. Insofern ist gerade bei der Erstellung von Content, welcher nicht nur neutral-informatorisch geprägt ist, sondern auch Meinungen und Ansichten enthält, große Vorsicht geboten.

Weiterlernen

Zu den weiteren Anwendungsbereichen (Beispiel Kalender-Organisation) stellt sich die gleiche Problematik, ohne dass man eine konkrete Eingabe vornehmen müsste. Bei der Auswertung des Kalenders dürfte man kaum garantieren können, dass eine Software nur den Umstand auswertet, ob ein Zeitraum geblockt ist, sondern auch mit welcher Tätigkeit und ggf. mit welchen Daten. Die Weiternutzung solcher Daten kann auch wieder problematisch werden.

Potenzielle rechtliche Probleme

Die denkbaren rechtlichen Probleme sind enorm vielfältig. Befragt man das Modul selbst zur Frage, welche rechtlichen Probleme es bei der Anwendung gibt, heißt es in der Antwort:

„Als KI-Sprachmodell stellt ChatGPT eine technologische Innovation dar, die in vielen Bereichen eingesetzt werden kann. Allerdings gibt es auch rechtliche Probleme, die bei der Anwendung von ChatGPT auftreten können. Einige dieser Probleme können sein:

1. Datenschutz: ChatGPT kann personenbezogene Daten verarbeiten, insbesondere wenn es in Verbindung mit anderen Systemen eingesetzt wird. Die Verarbeitung personenbezogener Daten ist jedoch in vielen Ländern durch Datenschutzgesetze geregelt, die den Schutz personenbezogener Daten gewährleisten sollen.
2. Haftung: Wenn ChatGPT falsche oder ungenaue Informationen liefert oder in irgendeiner Weise Schaden verursacht, kann die Frage nach der Haftung aufkommen. Es kann schwierig sein, die Verantwortung für Schäden oder Fehler zuzuweisen, da ChatGPT ein autonomes System ist und die Ursache für solche Fehler oder Schäden nicht immer leicht zu identifizieren ist.
3. Urheberrecht: ChatGPT kann Texte, Bilder oder andere Materialien generieren, die möglicherweise Urheberrechtsverletzungen darstellen. Es ist wichtig sicherzustellen, dass ChatGPT nur Materialien verwendet, für die die notwendigen Rechte vorhanden sind.
4. Ethik: Die Anwendung von ChatGPT wirft auch ethische Fragen auf, insbesondere im Zusammenhang mit dem Einsatz von KI-Technologie. Es ist wichtig sicherzustellen, dass ChatGPT ethische Grundsätze einhält, um unerwünschte Konsequenzen zu vermeiden.
5. Missbrauch: ChatGPT kann auch missbraucht werden, um bösartige Aktivitäten wie Spamming, Phishing oder Cybermobbing durchzuführen. Es ist wichtig, ChatGPT so einzusetzen, dass es nicht für unethische oder illegale Zwecke genutzt wird.

Insgesamt ist es wichtig sicherzustellen, dass ChatGPT in Übereinstimmung mit den geltenden Gesetzen und Vorschriften eingesetzt wird und dass geeignete Vorkehrungen getroffen werden, um potenzielle rechtliche Probleme zu vermeiden.“

Spätestens an diesem Punkt sollten Personen in verantwortlichen Positionen hellhörig werden, wenn es um den Einsatz von ChatGPT im eigenen Unternehmen geht. Die Probleme werden unter anderem (nicht abschließende Aufzählung) durch folgende weitere Bereiche ergänzt:

Betriebsgeheimnisse: Durch die Eingabe kann es dazu kommen, dass schutzwürdige Geheimnissen in das „Wissen“ einer KI-Anwendung gestellt werden und damit theoretisch auch anderen Anfragenden offeriert werden kann.

Berufsrecht: Insbesondere bei Rechtsanwälten und Ärzten, aber auch in anderen Bereich mit berufsrechtlichen Vorgaben, ist darauf zu achten, dass es zu keiner unzulässigen Offenlegung von Geheimnissen gegenüber Dritten kommt. Dies fängt schon bei der Eingabe konkreter Informationen an.

Strafrecht: Die beiden vorstehenden Aspekte können mit Blick auf § 203 StGB (Verletzung von Privatgeheimnissen) auch strafrechtliche Konsequenzen haben.

Die Probleme können zudem in vielfältiger anderer Gestalt auftreten. Ob und wie dies auf Unternehmen zurückfallen wird, muss abgewartet werden.

Was Unternehmen tun können

In der ganzen Thematik sind Unternehmen natürlich nicht hilflos gestellt. Mit einigen Maßnahmen können die Risiken minimiert und die unternehmensinternen Prozesse optimiert werden.

1. Zunächst sollte darauf geachtet werden, dass das hausinterne und ggf. auch externe Personal entsprechend für die Thematik und die Funktionsweise von ChatGPT und anderen Modulen sensibilisiert und geschult werden.
2. Es ist dringend zu empfehlen hausinterne Richtlinien und vertragliche Regelungen zu erlassen, welche KI-Anwendungen auf welche Art und Weise genutzt werden dürfen. Zugleich sollte festgehalten werden, was ausdrücklich nicht gestattet ist.
3. Sofern man den Einsatz von KI-Anwendungen zulässt, sollte aktuell gut dokumentiert werden, welcher weiterverwendete Output von einer KI-Anwendung stammt. Lässt man beispielsweise Blog-Artikel überwiegend von oder über ChatGPT gestalten, empfiehlt sich eine umfassende Dokumentationsliste, wer für die Erstellung zuständig war, um welchen Artikel/Beitrag es sich handelt und wo dieser Artikel/Beitrag genau veröffentlicht wurde. Dies erleichtert im Falle einer rechtlichen Auseinandersetzung oder staatlicher Regulierung das Auffinden von KI-Content und spart im Ernstfall viel Zeit. Zugleich bietet es mit Blick auf mögliche Unterlassungsansprüche die Sicherheit, dass man alle Einsatzorte findet und nicht in die Gefahr läuft, eine eventuell vereinbarte Vertragsstrafe bezahlen zu müssen.
4. Transparenz schaffen: In vielen Bereichen werden KI-Module bereits umfassend eingesetzt. Wo immer möglich, sollte man Transparenz schaffen, um das Vertrauen der Kundschaft zu stärken.
5. Die Einhaltung der gesetzlichen Vorschriften muss regelmäßig überprüft werden. Gerade mit Blick auf die anstehenden europarechtlichen Regulierungen im KI-Bereich ist dies zwingend erforderlich.

Fazit und anwaltliche Unterstützung

Die vielfältigen Chancen und Risiken von Anwendungen wie ChatGPT führen zwangsläufig zu Regelungsbedarf. In diesem Rahmen steht Ihnen Dr. Raphael Rohrmoser aus der Kanzlei AdvoAdvice gerne zur Verfügung, wenn es um eine Risikoanalyse in Ihrem Unternehmen oder die Erstellung von hausinternen Richtlinien und vertraglichen Regelungen geht. Kontaktieren Sie uns gerne unter 030 / 921 000 40 oder info@advoadvice.de.