Der Kanton Zürich hat rechtliche Best Practices für Künstliche Intelligenz in der Bildung veröffentlicht (Download per PDF). Diese richten sich zwar primär an Lehrpersonen und Schulverantwortliche, doch der "Überblick über rechtliche Aspekte bei der Implementierung von KI-Anwendungen", die der Leitfaden bietet, ist auch für andere Sektoren relevant und interessant.

Zum Beispiel liefert der Leitfaden Tipps, wie der Umgang mit Personendaten geregelt und wie datenschutzrechtliche Fragen geklärt werden können. Ebenso wird erläutert, was bei der Vorbereitung und Durchführung von KI-Projekten punkto Rechtsgrundlagen sowie Haftung und Verantwortlichkeiten geklärt werden sollte.

Auffällig ist, dass der Kanton vor der Einbindung von Large Language Models (LLMs) warnt. Wer zum Beispiel ChatGPT von OpenAI via API einbindet, solle aus rechtlicher Sicht aufpassen. "Bezüglich des Datenschutzrechts ist darauf zu achten, dass keine Personendaten an den LLM-Anbieter fliessen und möglichst auch nicht unabsichtlich fliessen können", heisst es dort etwa.

Darüber hinaus könne es zu rechlichen Problemen kommen, wenn LLM-Anbieter "urheberrechtlich geschützte Inhalte widerrechtlich für sein Modell verwenden". Wer Google und Microsoft glaubt, muss sich diesbezüglich zumindest keine finanziellen Sorgen machen. Die Unternehmen wollen Nutzerinnen und Nutzer vor Bussen schützen und übernehmen quasi den Rechtsschutz.

Nichtsdestotrotz lässt sich Co-Autor Raphael von Thiessen, Leiter Innovation-Sandbox für KI bei der Standortförderung Kanton Zürich, wie folgt im Leitfaden zitieren: "Die Einbindung von Large Language Models bringt für Hersteller Grosse Chancen, führt aber auch zu rechtlichen Risiken, die schwierig zu kontrollieren sind."