2018-06-11 06:11:49

Die schwierigen Fragen zur künstlichen Intelligenz (Teil 2)

Im zweiten Teil dieser Serie werden wir die rechtlichen Aspekte der KI-Entscheidungen genauer betrachten.

Es gibt einige, die behaupten, dass das Lesen der Beipackzettel bei Medikamenten bereits den Patienten wieder gesund macht. Meist werden solche Aussagen von Anwälten in die Welt gesetzt. Aber die Probleme, die durch die Nutzung künstlicher Intelligenz (KI) entstehen, erfordern es, dass sich die Unternehmen mit den damit verbundenen rechtlichen Problemen und den Schwachstellen auseinandersetzen.

Die Definition von "künstlicher Intelligenz" ist ein bisschen schwammig und verändert sich kontinuierlich. Im weitesten Sinne umfasst die KI nicht nur die Aspekte der Datenverarbeitung und des Maschinenlernens, sondern auch die Aspekte der Biometrie, "Big Data" und dem Internet der Dinge (IoT).

Werden elektronische Geräte immer intelligenter und allgegenwärtiger - sowohl im Unternehmen als auch zu Hause - werden praktische und rechtliche Erwägungen (einschließlich der Schwachstellen) immer wichtiger.

Einige, wenn nicht alle Rechtsbereiche, müssen beim KI-Einsatz in den Unternehmen berücksichtigt werden: Vertragsrecht, Risikobewertung, Datenschutz, Produkthaftung, Kartellrecht, internationales Recht, geistiges Eigentum und die genutzten Kommunikationstechnologien.

Einer meiner Freunde hat seine gesamte Karriere damit zugebracht, die trockenen Vertragstexte zu lesen und diese zu schreiben. Die KI wirft jedoch einige Probleme auf, die ihm bisher noch nicht aufgefallen waren...

Eine der bemerkenswertesten Bereiche sind die Erwartungen an bestimmte Services. Im Vertragsrecht ist es wichtig, dass beide Parteien genau wissen, welche Informationen das KI-Produkt liefern soll und wie diese Informationen zusammengestellt wurden.

Nehmen wir einfach mal an, dass die Herkunft der Daten geklärt ist und der Auftraggeber auch der Eigentümer dieser Daten ist. Die Anbieter von KI-Diensten werden bis auf weiteres behaupten, dass ihre KI-Prozesse proprietär (und hochgeheim) sind. Daher wird der Kunde diese Prozesse nie verstehen und er muss glauben, was in dieser mysteriösen Black Box passiert. Da der Glauben manchmal Berge versetzt, aber keine Beweise liefert, kann sich der Kunde auch nicht auf die von der KI generierten Daten verlassen.

Wie wird der Nutzer geschützt, wenn sich durch unvermeidliche Weiterentwicklungen der zugrunde liegenden KI-Technologien und -Prozesse eine neue Faktenlage ergibt? In die Verträge zwischen den beteiligten Unternehmen bzw. Personen sollten die Begriffe der Technologieentwicklung integriert werden. Dies gilt insbesondere dann, wenn die Vereinbarung zwischen dem Unternehmen und dem KI-Anbieter mehr als ein einzelnes Projekt umfasst. Die Anbieter von Dienstleistungen mögen solche Öffnungsklauseln nicht und wollen den Kunden lieber in ein starres Vertragswerk einbinden.

Eine weitere vertragliche Komponente sollte sich mit den Fragen zur Risikoabsicherung befassen. Wer trägt die Risiken, die sich aus den KI-erzeugten Daten ergeben? Die Anzahl der Risiken hängt von der Anzahl der Variablen und der Komplexität der durchgeführten Operationen ab. Wer trägt die Verantwortung, wenn Dinge schieflaufen und die KI-erzeugten Daten, auf die man sich verlässt, ein Problem verursachen, das zu Schäden führt? Vor diesem Hintergrund müssen mögliche Versicherungs- und Entschädigungsbedingungen sorgfältig bedacht und bewertet werden.

Auch ist eine klare Terminierungsstrategie unabdingbar. Diese wird insbesondere angesichts der tatsächlichen Zahlenverarbeitung des gemachten Geheimnisses und daraus resultierenden Abhängigkeit des Unternehmens von den erzeugten Daten notwendig.  Im Allgemeinen gehören solche Paragraphen, die sich mit der automatischen Vertragsverlängerung beschäftigen, immer zum Nachteil des Kunden.

Die Grundlage für das Management von Unbekanntem bildet eine vertragliche Flexibilität. Es gibt bekannte Herausforderungen, die mit zunehmender Abhängigkeit von Daten einhergehen. Daher muss das Kleingedruckte der KI-Verträge genau studiert werden und der Kunde muss auf Bedingungen bestehen, die ihm die notwendige Flexibilität gewährleisten, wenn bisher unbekannte und unerwartete Anforderungen durch das AI-Produkt (beispielsweise durch Neuentwicklungen) auftreten, die sich zum Nachteil des Kunden auswirken. Dieselbe vertragliche Flexibilität sollte auch bei der Weiterentwicklung der Technologie möglich sein. Auch kann sich während der Laufzeit eines Projekts das regulatorische Umfeld verändern und die genutzten Produkte als auch die Vereinbarungen müssen sich flexibel an die neuen Anforderungen anpassen.

Viele dieser Themen erfordern weitere und tiefere Diskussionen. Für die Absicherung von KI-basierten Gütern und Dienstleistungen müssen nicht nur unterschiedliche Vertragsbedingungen berücksichtigt werden, sondern auch solche Aspekte integriert werden, die den Erwerber dieser Daten (den Kunden) schützen.

mat

Druckversion

Zum Thema