Die Schnittstelle des Hamburger Start-ups Fobizz zu Sprachmodellen wird an Tausenden Schulen in ganz Deutschland genutzt. In Baden-Württemberg allerdings warnte das Zentrum für Schulqualität in Fortbildungen vor dem KI-Anbieter. Und der Beauftragte für Datenschutz? Wartet, prüft, zögert. Eine Posse aus der drittinnovativsten Region des Landes

Die grüne Schulministerin hatte in ihre baden-württembergische Landesvertretung nach Berlin eingeladen. Das Thema Künstliche Intelligenz wollte sie besprechen. Theresa Schopper betonte, dass aus Gründen der Chancengleichheit alle Schüler:innen mit Sprach-KI arbeiten und lernen müssten. Hörte sich prima an.

Aktualisierte Fassung eines Stücks aus Tagesspiegel Background Digitalisierung & KI von Oktober 2024

Inzwischen sind zwei Jahre vergangen, aber getan hat sich wenig. Und der Grund ist einfach: Behördenchaos und Blockade von Amts wegen. Recherchen zeigen: Ausgerechnet Schoppers eigenes „Zentrum für Schulqualität und Lehrerbildung“, eine Landesoberbehörde, verzögerte und blockierte teilweise, dass die Schulen in Baden-Württemberg Künstliche Intelligenz (KI) bekommen. Ein privater Anbieter, der in anderen Ländern bereits KI für Schulen bereit stellt, wurde de facto verboten – ohne je eine Erklärung erhalten zu haben.

Anspruch und Wirklichkeit: Blockieren, prüfen, tricksen – bis die lahme staatliche Lösung endlich aufgeholt hat

Mitarbeiter des ZSL warnten in ihren Fortbildungen Lehrer und Schulleiter offenbar davor, den KI-Baukasten von Fobizz anzuschaffen. Die Nutzung des kommerziellen KI-Anbieters „ist aus Gründen des Datenschutzes und des Neutralitätsgebotes nicht möglich“. So trug es 2023 ein Referent des ZSL vor – danach kündigte die Leitung der Schule ihren Fobizz-Account. Pisaversteher liegt ein Foto der Vortragspassage der Weiterbildung vor. „Weisen Sie Lehrkräfte unbedingt darauf hin, dass die KI-Tools von Fobizz“, so formulierte es ein anderer Referent des ZSL, „nicht mit Schüler:innen eingesetzt werden darf. (Sic!) Gilt 1:1 für die Fortbildung.“ Auch dieses Dokument liegt vor. Fortbildner aus anderen Ländern berichten Pisaversteher, dass sie dazu vergattert wurden, den Namen Fobizz nicht zu erwähnen.

Bevorzugt die Schulbehörde ihre eigene KI-Lösung?

Hintergrund der Blockade könnte sein, dass das ZSL selbst ein KI-Tool programmiert hat, genauer eine Schnittstelle zu dem größten und bekanntesten KI-Anbieter Open AI. Das Tool heißt „fAIrChat“ und Schulministerin Schopper stellte es schon 2023 in Berlin vor. Bis November 2024 konnten freilich nur einige Dutzend Schulen in Baden-Württemberg „fAIrChat“ nutzen. In dem Bundesland gibt es rund 4.500 Schulen. Der Präsident des Zentrums für Schulqualität, Thomas Riecke-Baulecke, bestätigte Pisaversteher unverdrossen, dass seine Behörde „fAIrChat“ bevorzuge: „Ich habe den Eindruck, dass wir mit unserer selbst entwickelten Lösung fAIrChat deutlich sicherer unterwegs sind.“ Das war im Oktober 2024. Von fAIrChat spricht heute niemand mehr – außer den Leuten von Referat 24.

„Wir haben uns Fobizz angeschafft. Aber bitte nicht verraten. Wir unterrichten hier in einem Graubereich.“

Wie die drittinnovativste Region der Welt Innovationen in Schule verzögert.

Für den KI-Anbieter Fobizz, der in ganz Deutschland Schulen mit KI versorgt, trägt die Blockade des ZSL kafkaeske Züge. Der Gründerin Diana Knodel wird von Schulleitern immer wieder berichtet, dass ihnen die Nutzung von Fobizz verboten wurde. Aber Knodel hat lange keine offizielle Mitteilung oder einen Bescheid aus der Landesoberbehörde ZSL bekommen. Für Knodel, die sowohl in Rheinland-Pfalz als auch in Mecklenburg-Vorpommern KI per Landeslizenz an Schulen bringt, blieb die Ablehnung nur ein Gerücht. Als Knodel einmal beim zuständigen Referat des ZSL für Digitales und Fortbildung nachfragte, wurde ein Gesprächstermin vereinbart – den die Referatsleitung dann aber habe ausfallen lassen.

„Leider erhalten wir aus Baden-Württemberg von einigen Schulen die Rückmeldung, dass wir vom ZSL aufgrund von Datenschutzbedenken als verboten gelten“ (Diana Knodel in einem Schloß namens BaWü)

„Leider erhalten wir aus Baden-Württemberg von einigen Schulen die Rückmeldung, dass wir vom ZSL aufgrund von Datenschutzbedenken als verboten gelten“, sagte Knodel. „Weitere Informationen wurden den Schulen und uns nicht zur Verfügung gestellt.“ Die Fobizz-Geschäftsführerin Knodel wünscht sich von Land Baden-Württemberg „einen fairen Austausch und die Möglichkeit, zu belegen, dass wir datenschutzkonform sind.“

Datenschutz als Waffe gegen EdTechs

Die Datenschutzprüfung von Fobizz in Baden-Württemberg ist ein ganz eigenes Kapitel dieser Geschichte. In Rheinland-Pfalz kümmerte sich der zuständige Landesdatenschutzbeauftragte um das KI-Tool – ohne Beanstandung. In Baden-Württemberg wurde allerdings zunächst nicht der dafür verantwortliche Datenschützer befasst. Die Begutachtung im Ländle nahm das ZSL selbst vor. „Im Ergebnis sind vor allem die organisatorischen Maßnahmen zu bemängeln – so fordert das System teilweise Nutzende dazu auf, explizit personenbezogene Daten von Schülerinnen und Schülern als Prompt einzugeben“, begründete das ZSL die Ablehnung.

„Bitte überprüfe, ob das Absenden sicher ist“

Diese Argumentation empört Schulleiter und Lehrkräfte des Bundeslandes. „Das ist totaler Quatsch“, sagte ein Lehrer. Das Gegenteil sei richtig. „Wenn ich einen Namen bei Fobizz eingebe, dann warnt mich das System automatisch“, sagte der Lehrer, der seinen Namen nicht nennt, weil er sonst eine dienstliche Rüge fürchten muss. Tatsächlich ploppt bei Angabe von Namen bei Fobizz ein Fenster auf: „Dein Prompt scheint persönliche Daten zu enthalten. Bitte überprüfe, ob das Absenden sicher ist.“ Auch Fobizz-Gründerin Knodel widerspricht. „Wir fordern nicht dazu auf, personenbezogene Daten von Schüler:innen einzugeben, sondern betonen ausdrücklich, dies zu unterlassen.“


Ich bin kein Experte für die Details von Fobizz. Unsere Prüfung hat offenbar ergeben, dass Schülerinnen und Schüler in dem Tool dazu angehalten werden, personenbezogene Daten direkt ins Chat-Fenster einzugeben.

Präsident mit bombenunsicherer Aussage über die Prüfung seines Hauses

Pisaversteher bat Präsident Riecke-Baulecke, die Erkenntnisse seiner Behörde zu belegen. „Ich bin kein Experte für die Details von Fobizz“, sagte der Präsident des Amtes – und wiederholte seine unbelegte und in der Sache höchst seltsame Behauptung: „Unsere Prüfung hat offenbar ergeben, dass Schülerinnen und Schüler in dem Tool dazu angehalten werden, personenbezogene Daten direkt ins Chat-Fenster einzugeben. Dagegen müssen Sicherungen eingebaut werden.“ Beweise für diese Behauptung legte das ZSL Background bis Redaktionsschluss nicht vor. Immerhin gestand Präsident Riecke-Baulecke zu: „Wenn mir Belege vorliegen, dann kann ich dem im Hause nachgehen – und wir haben die Chance, das zu korrigieren.“

Der zuständige Datenschützer in der Zwickmühle

Während die so wichtige Schulbehörde den Zugang von Schulen und Schülern zu KI in seinen Fortbildungen hintertreibt, lobt Ministerin Theresa Schopper den KI-Aufschwung ihres Landes in höchsten Tönen. Vor einem Jahr wurde ein KI-Zentrum in Heilbronn eröffnet. „KI ist die Schlüsseltechnologie des 21. Jahrhunderts mit großen Potenzialen, bei deren Nutzung wir die Schulen unterstützen“, dröhnte Schopper bei dem Festakt. Das KI-Zentrum wird organisiert von der Dieter-Schwarz-Stiftung, dem örtlichen Innovationspark – und ausgerechnet auch jenem Referat des ZSL, das Fobizz in seinen Fortbildungen abspricht, datenschutzkonform zu sein.

Wie geht es weiter in Baden-Württemberg? Inzwischen hat sich der zuständige Landesdatenschützer Tobias Keber des Falles Fobizz angenommen. Er sitzt allerdings in einer Zwickmühle. Beanstandet Keber Fobizz, widerspricht er seinem Kollegen Dieter Kugelmann aus Rheinland-Pfalz – der keine Bedenken hat. Erhebt Keber nun keine Bedenken gegen Fobizz, steht das ZSL schlecht da. Keber ließ mitteilen: „Unser Verfahren ist noch nicht abgeschlossen; ein Verbot der Tools haben wir bislang nicht ausgesprochen.“

„Unser Verfahren ist noch nicht abgeschlossen; ein Verbot der Tools haben wir bislang nicht ausgesprochen.“ (Der zuständige Datenschutzbeauftragte Tobias Keber)

Diese Mitteilung repetiert und variiert der Datenschutzbeauftragte seit einem Jahr. Zuletzt teilte der Beauftragte mit, er berate das Ministerium lediglich. Inzwischen erfuhr Pisaversteher freilich, dass das Ministerium selbst die Prüfung vornehme – und der allein zuständige Tobias Keber erst danach dran sei. Die Auskünfte der Behörden in BaWü erinnern immer mehr an Kafkas Schloß: es gibt einen Verdacht gegen Fobizz – aber niemand kommuniziert ihn, es gibt keine Bescheide, aber viele Gerüchte.

Ihr Ziel hat Baden-Württembergs Blockade-Bürokratie freilich erreicht: sie verzögerte die Anschaffung von Fobizz so lang, dass inzwischen das technisch zurückgebliebene Staatsangebot telli zu einem ernsthaften Konkurrenten wurde.

Und was machen die Schulen des Bundeslandes, das laut einer Studie die drittinnovativste Region der Welt sei? „Wir haben uns Fobizz angeschafft“, sagte der KI-Experte einer Schule. „Aber bitte nicht verraten. Wir unterrichten hier in einem Graubereich.“