Zur Umsetzung der EU-Verordnung über künstliche Intelligenz (EU-KI-Verordnung) wird nachfolgende Regelung erlassen:

(1) ₁KI-Technologien bieten große Möglichkeiten. ₂Sie bringen zugleich Herausforderungen in der Anwendung und im Umgang mit den Ergebnissen mit sich. ₃Diese Ordnung soll den sicheren, bewussten und verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI) in der Erzdiözese Freiburg gewährleisten. ₄Sie legt fest, unter welchen Voraussetzungen KI mit den sie bietenden Chancen genutzt werden darf.

(2) Der Einsatz von KI-Systemen muss den Kriterien Zweckmäßigkeit, Sinnhaftigkeit und Aufgabenorientierung genügen und dem Menschen in seiner sinnstiftenden Entfaltung dienen.

(3) ₁Der Einsatz von KI führt zu einem erhöhten Ressourcenverbrauch. ₂Daher ist im Sinne der Nachhaltigkeit ein verantwortungsbewusster Einsatz von KI geboten und eine Abwägung zwischen umweltfreundlicheren und ressourcenschonenderen Alternativen vorzunehmen.

(4) ₁Die EU-KI-Verordnung regelt den Einsatz und die Entwicklung von KI-Systemen in der Europäischen Union. ₂Zweck dieser EU-KI-Verordnung ist es, die Einführung einer auf den Menschen ausgerichteten KI in Europa zu fördern und dabei ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die Grundrechte der Bürger sicherzustellen (Artikel 1 der EU-KI-Verordnung). ₃Dazu definiert die EU-KI-Verordnung KI-Anwendungsszenarien, die von vornherein untersagt sind und solche, die voraussichtlich mit einem „hohen Risiko“ einhergehen und daher besondere Sorgfalt erfordern.

(5) Die Risikoklassen nach der EU-KI-Verordnung werden für die Erzdiözese Freiburg in der Anlage dieser Ordnung spezifiziert.

Diese Ordnung gilt für die Nutzung von KI in der Erzdiözese Freiburg, insbesondere für alle Dienststellen und Einrichtungen der Erzdiözese Freiburg und der Kirchengemeinden.

(1) Ein „KI-System“ ist ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.¹#

(2) ₁Ein „generatives KI-System“ bezeichnet ein KI-System, das auf Basis vorhandener Daten neue, synthetische Inhalte erzeugen kann, die eine abstrakte variierte Repräsentation von zuvor trainierten Daten darstellt. ₂Diese Inhalte können insbesondere Text, Bilder, Audio, Video, Programmcodes und 3D-Modelle sein. ₃Es verfügt über das Potential, Inhalte zu bearbeiten²#, deren Medialität zu transformieren³#, Informationen zu extrahieren⁴#, Datensätze zu klassifizieren oder zu interpretieren sowie komplexere Aufgaben autonom durchzuführen⁵#.

(3) ₁„Information Retrieval“ ist der Prozess des Auffindens und Abrufens relevanter Informationen aus einem Datensatz oder einer Sammlung von Ressourcen. ₂Er spielt eine entscheidende Rolle beim Datenabruf und ermöglicht den effizienten Zugriff auf Informationen durch Suchalgorithmen und Techniken zur Abfrageverarbeitung.

(4) „KI-Kompetenz“ beinhaltet Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Anwendern und Betroffenen ermöglichen, KI-Systeme unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten in Kenntnis der Sachlage einzusetzen und sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu sein.

₁Entsprechend Artikel 4 der EU-KI-Verordnung hat der Dienstgeber die KI-Kompetenz der Mitarbeitenden sicherzustellen. ₂KI-Systeme dürfen nur von Mitarbeitenden genutzt werden, die zuvor an einer grundlegenden Schulung zum Thema „KI“ teilgenommen und dies dem Dienstgeber gegenüber über den Dienstvorgesetzten nachgewiesen haben.

(1) KI-Systeme dürfen im dienstlichen Kontext ohne Genehmigung genutzt werden, wenn keine personenbezogenen, vertraulichen, internen, betrieblichen oder sicherheitsrelevanten Daten verarbeitet oder eingegeben werden.

(2) ₁Für die Nutzung von KI-Systemen, die nicht unter Absatz 1 fallen, ist grundsätzlich eine vorherige Genehmigung durch die Stabsstelle Informationstechnik und den Dienstvorgesetzten erforderlich. ₂Dies gilt insbesondere in den Fällen, in denen eine der folgenden Bedingungen vorliegt:

(3) Eine Genehmigung nach Absatz 2 darf nur erteilt werden, sofern keine technischen, sicherheitsrelevanten oder datenschutzrechtlichen Belange entgegenstehen.

(4) KI darf in der Erzdiözese Freiburg ausschließlich im Kontext der Risikoklassen 4 (Minimales Risiko) und 3 (Geringes Risiko) gemäß dem Anhang dieser Ordnung eingesetzt werden.

(5) Die Nutzungsbedingungen des Anbieters des KI-Systems sind zwingend einzuhalten.

(1) ₁Die Eingabe von Daten muss rechtlich zulässig sein. ₂Insbesondere darf sie nicht gegen Datenschutz-, Urheber- oder Markenrecht verstoßen. ₃Es ist untersagt, Inhalte abzurufen, zu verbreiten oder zu speichern, die gegen Persönlichkeits-, Datenschutz-, Lizenz-, Urheber- oder Strafrecht verstoßen.

(2) ₁Eine Eingabe von vertraulichen und/oder personenbezogenen Daten auf öffentlichen frei zugänglichen KI-Plattformen ist stets untersagt. ₂Dazu gehören Dienst- und Geschäftsgeheimnisse, steuerlich geschützte Informationen, personenbezogene Daten sowie sicherheitsrelevanter interner Programmcode. ₃Inhalte aus Verschlusssachen dürfen nicht eingegeben werden. ₄Verstöße gegen das Dienstgeheimnis oder besondere Geheimhaltungspflichten können dienst- und strafrechtliche Konsequenzen haben.

(3) ₁Eine ungeprüfte Übernahme von KI-generierten Inhalten ist nicht zulässig. ₂KI-Systeme sind nur einzusetzen, wenn der Mensch aktiv am Betrieb, der Überwachung oder der Entscheidungsfindung eingebunden ist.

(1) ₁KI-generierte Inhalte sind vor ihrer Verwendung auf ihre Richtigkeit bzw. Plausibilität, Angemessenheit und Diskriminierungs- und Bias-Freiheit zu prüfen. ₂Texte sind zudem einer redaktionellen Kontrolle zu unterziehen.

(2) ₁Insbesondere bei von KI-Systemen erzeugten Texten und Bildern ist darauf zu achten, dass diese keine Reproduktion urheberrechtlich geschützter Werke darstellen. ₂Bei Zweifeln hat die Verwendung zu unterbleiben.

(3) ₁Bevor Informationen aus externen Quellen wie insbesondere aus KI-gestützten Suchmaschinen, Social Media oder Internet übernommen oder in eigene Entscheidungsprozesse oder dienstliche Erledigungen einfließen, sind diese kritisch zu hinterfragen und auf Nachvollziehbarkeit zu prüfen. ₂Insbesondere generative KI-Systeme stellen kein Wissensmanagementsystem dar.

(4) ₁Zur Vermeidung von Desinformation und Täuschung und ihre schnelle Verbreitung in sozialen Medien sind Faktenchecks durchzuführen. ₂Dabei sind KI-generierte Inhalte auf ihren Wahrheitsgehalt zu überprüfen, um echte von verfälschten Inhalten zu unterscheiden. ₃Dies gilt insbesondere in Bezug auf potenziell von KI-Werkzeugen generierte verfälschte bzw. manipulierte Bilder. ₄Auf diese Weise wird die Glaubwürdigkeit von Medieninhalten der Erzdiözese Freiburg sichergestellt.

₁Wenn generative KI-Systeme für die Erstellung von Texten, Bildern oder sonstigen Inhalten verwendet werden, ist dies durch eine Kennzeichnung in einer Fußzeile, einer Bildunterschrift oder auf sonstige eindeutige Weise transparent zu machen. ₂Dies gilt nicht für Rechtschreibprüfungen oder Übersetzungsprogramme.

Diese Ordnung tritt am 5. März 2026 in Kraft.