VBIB/vBIB25/14 Fragen zu KI (IFLA Entry point to libraries and AI)
- 14 Fragen, die wir uns als Bibliothekswesen beim Thema KI stellen sollten
Unter dem Eindruck, dass generative Künstliche Intelligenz (die "großen Sprachmodelle"), die seit dem Ausrollen der ersten Version von ChatGPT durch OpenAI im November 2022 von Bibliothekswesen als eine Art Schicksal betrachtet wird, will der Vortrag zeigen, dass der Einsatz dieser Technologie bzw. der Umfang eines möglichen zukünftigen Einsatzes eine bewusste Entscheidung sein kann.
Dazu wurde der IFLA Entry Point for Libraries and AI (Mai 2025, verfasst von Andrew M. Cox und Maria De Brasdefer, Ressource: https://repository.ifla.org/handle/20.500.14598/4034) in Teilen übersetzt und vorgestellt.
Das Vorwort (Seite 2) wurde übersetzt und zusammengefasst. Übersetzt wurden weiterhin die Bezeichnungen der Szenarios (Seite 7ff), nicht aber die Ausarbeitungen der Szenarios. Übersetzt wurden die 14 Risiken aus dem Abschnitt "Mögliche Risiken bei der Nutzung von KI", die beim Einsatz in Informationseinrichtungen berücksichtigt werden sollten (Seite 4-5) und die 14 Fragen, die aus der Beschreibung dieser Risiken entwickelt wurden (Seite 5-6).
Zusammenfassung des Vorwortes
[Bearbeiten]Das Vorwort hält fest: "KI hat das Potenzial bibliothekarische Grundwerte wie Zugang zu und Schaffung von Wissen voranzubringen. Darum haben Bibliotheken Interesse an einer verantwortungsvollen Nutzung. Alles Mögliche wird als KI bezeichnet. Es hilft deswegen spezifisch über einzelne Technologien wie maschinelles Lernen oder große Sprachmodelle zu sprechen. Diese Differenzierung findet häufig nicht statt. Für die (eigene) Positionierung sollte aber klar sein, was mit KI gemeint ist, wenn eine Informationseinrichtung davon spricht. Als Profession stehen wir in der Verantwortung die möglichen Vorteile gegen die Nachteile abzuwägen. Dafür wurden grundsätzliche Fragen entwickelt, die uns helfen können abzuwägen, ob der Einsatz von KI-Systemen unsere Ziele unterstützen kann oder ob er schädlich ist. Die Fragen sollen als ein Aspekt zur Abwägung verstanden, aber nicht als einzige Entscheidungshilfe verwendet werden. Sie sollen helfen innerhalb von Informationseinrichtungen, Projekten oder zwischen Kolleg*innen Diskussionen anzuregen."
Beispielhafte Szenarien zur Anwendung der Fragen
[Bearbeiten]Unter dem Motto "Turning insight into Action" werden am Ende des Entry Points beispielhafte Szenarien vorgestellt bei denen die Abwägung mithilfe der 14 ausformulierten Fragen hilfreich sein kann:
- Szenario 1: Unterstützung von Bibliotheksnutzenden bei der verantwortungsvollen Nutzung generativer KI
- Szenario 2: Einsatz generativer KI durch Bibliothekspersonal
- Szenario 3: Einsatz von KI im Bereich Metadatenerstellung von Dingen, die in Bibliotheken gesammelt werden
Anmerkung zur Übersetzung
[Bearbeiten]In der folgenden Übersetzung der einzelnen Risiken und daraus entwickelten Fragen wird zuerst die Frage aufgeführt und dann die Erläuterung. Die Markierung des Kerngedankens aus der Vorlage ist durch Hervorhebung erfolgt.
KI umfasst im IFLA Entry Point for Libraries and AI verschiedene Technologien. In den Fragen wurden statt der unspezifischen Abkürzung "KI" die Begriffe „KI-System“ oder „KI-Modell“ verwendet. Grundlage für die Entscheidung war die Definition in Artikel 3(1) der EU-KI-Verordnung (KI-VO), nach der das KI-System die umfassende technische Lösung und KI-Modell der Baustein ist der innerhalb des Systems die Wahrscheinlichkeitsberechnung anstellt.
Frage 1 (Hype)
[Bearbeiten]Wie unterstützt das System bei den Aspekten Zugang zu Informationen und Erwerb von Wissen? Sind die Kosten und der Nutzen verhältnismäßig in Bezug auf die Ziele der Einrichtung? Sind sie es im Vergleich mit alternativen Lösungen?
Werbung für KI-Systeme kann zur Übertreibung neigen. Persönliche Vorstellungen über KI-Systeme können die Möglichkeiten von KI-Systemen überstrahlen (Hype). Die Nutzung kann schädlich sein. Sind aus anderen Informationseinrichtungen entsprechende Systeme bekannt, bei dem der Nutzen die Kosten nachweislich übersteigt? Es könnte einfachere, bessere und fairere Lösungen für Probleme geben, die bei einer einseitigen Fixierung auf den Einsatz eines KI-Systems übersehen werden.
Frage 2 (ungenaue, irreführende und falsche Informationen)
[Bearbeiten]Wie fehlerfrei, aktuell und objektiv sind die generierten Informationen und wird das in der Oberfläche des Systems dargestellt?
KI-Systeme arbeiten durch Berechnung von Wahrscheinlichkeiten, was zu ungenauen, irreführenden und falschen Informationen führen kann. Alle KI-Ausgaben sollten durch einen Menschen geprüft werden. Es gibt viele Beispiele für fehlerhafte oder falsche Ausgaben bei der Nutzung von generativer KI. Dazu gehören veraltete Informationen, einleuchtende, aber falsche Informationen, fehlende Zitate oder nichtexistierende Quellen. Besonders in Bereichen in denen Fehlerfreiheit wichtig ist sollte das Bedacht werden.
Frage 3 (Bias)
[Bearbeiten]Welche Maßnahmen werden angewendet um Bias und die Reproduktion von schädigenden Stereotypen und Unterstellungen zu reduzieren oder zu verhindern?
Bias kann bereits in den ausgewählten Trainingsdaten vorliegen und lässt sich nicht wegtrainieren. KI-Systeme reproduzieren bestehende gesellschaftliche Diskriminierungsverhältnisse, weswegen sie z.B. für marginalisierte Gruppen nicht sicher und nicht nutzbar sein können
Frage 4 (Bedrohung der Vielfalt der menschlichen Wissenssysteme ...)
[Bearbeiten]Wie wird die Vielfalt der menschlichen Wissenssysteme und die kulturelle und sprachliche Diversität durch das KI-System geschützt/gefördert?
Die Vielfalt der menschlichen Wissenssysteme und die kulturelle und sprachliche Diversität sind durch KI-Systeme bedroht. KI-Systeme, die entsprechende Aspekte während der Entwicklung nicht einschließen, erhöhen die Wahrscheinlichkeit koloniale Machtstrukturen zu reproduzieren und damit die Bestrebungen von Informationseinrichtungen zu unterlaufen die eigenen Sammlungen und Handlungsweisen zu dekolonialisieren.
Frage 5 (Nutzung für Desinformation, Misinformation und Zensur)
[Bearbeiten]Befördert die Bereitstellung von KI-Systemen Personen mit destruktiven Absichten dazu leichter Desinformationen zu verbreiten oder Informationen zu kontrollieren?
KI-Systeme können für Desinformation, Misinformation und Zensur verwendet werden. Personen, die entsprechende Absichten verfolgen können durch KI-Systeme leichter negativen Einfluss auf Informationskulturen nehmen.
Frage 6 (Ungleiche Zugangsmöglichkeiten)
[Bearbeiten]Ist der Zugriff für alle Länder, Einrichtungen und Personen gleich gut zu erlangen? Insbesondere unter Berücksichtigung von Aspekten wie digitaler Ungleichheit und Zugänglichkeit für alle?
Ungleiche Zugangsmöglichkeiten. Personen oder Gruppen mit eingeschränkten digitalen Teilhabemöglichkeiten können benachteiligt sein. Aufgrund der hohen Kosten für KI-Systeme können häufig nur finanziell gut ausgestattete (privilegierte) Länder, Einrichtungen oder Personen Zugriff erlangen.
Frage 7 (Fehlende Vorhersagbarkeit/Transparenz)
[Bearbeiten]Ist das KI-System transparent im Hinblick auf Aspekte des gesellschaftlichen Miteinanders? Ist festgelegt wer die Verantwortung für Fehler und deren Auswirkungen trägt, die bei der Verwendung von KI-Systemen auftreten?
Fehlende Vorhersagbarkeit und Transparenz. Ausgaben von KI-Systemen werden im Hintergrund berechnet und sind über Programmierung, Konfiguration oder Parametrisierung nicht vorhersagbar (Black-Box). KI-Unternehmen handeln z.B. in Bezug auf die Herkunft der Trainingsdaten intransparent. Es kann unklar sein, wer für die Fehler eines KI-Systems Verantwortung trägt. Wann und wie KI-Modelle in KI-Systemen eingesetzt werden, sollte immer und für alle nachvollziehbar sein.
Frage 8 (Bedrohung für Privatsphäre und Sicherheit)
[Bearbeiten]Wie werden die Daten der Nutzenden verwaltet um Datenschutz und Datensicherheit zu gewährleisten?
Bedrohungen für Privatsphäre und Sicherheit. Eine Vorgehensweise bei der aktuellen Entwicklung von KI-Systemen ist es die Eingaben und privaten Informationen der Nutzenden für weitere Trainings zu verwenden. Das geschieht teilweise ohne Einwilligungen abzufragen oder die Möglichkeit eines Opt-out. Die Erhebung, Nutzung und der Verkauf von Daten können die Datenhoheit der Nutzenden gefährden.
Frage 9 (Bedrohung für Urheber*- und Autor*innenrechte)
[Bearbeiten]Wurde das zugrundeliegende KI-Modell ohne unlizenzierten Rückgriff auf urheberechtliche geschützte Werke entwickelt?
Bedrohungen für Urheber*- und Autor*innenrechte. Es gibt eine Häufung von Fällen in denen z.B. beim Training von großen Sprachmodellen urheberrechtlich geschütztes Material unrechtmäßig (d.h. ohne Nutzungsvereinbarung) verwendet wird. Darunter fallen auch durch KI-Crawler von Webseiten gesammelte Daten. In einigen Ländern verstößt diese Nutzung gegen das Gesetz oder es gibt laufende Gerichtsverfahren gegen diese Praxis. Außerdem können beim Training von KI-Modellen weitere versteckte Kosten entstehen. Beispielsweise aus der Abwehr von KI-Crawlern, die Daten aus Repositorien sammeln und damit den Ressourcenverbrauch steigern.
Frage 10 (Fehlende Beratung durch Interessengruppen)
[Bearbeiten]Wurden (oder werden) lokale und gesellschaftliche Interessengruppen in die Entwicklung und Einführung des KI-Systems einbezogen um Datenhoheit (Recht auf Eigentum, Kontrolle und Verwaltung der eigenen Daten/das eigene kulturelle Erbe) in den Communities zu gewährleisten? Wie ist das geschehen?
Fehlende Beratung durch Interessengruppen. Es gibt eine Häufung von Fällen in denen KI-Systeme ohne Einbezug von Interessengruppen entwickelt werden. Auch dann nicht, wenn ein KI-System diese in ihren Funktionen abbildet bzw. in Form der generierten Inhalte repräsentiert.
Frage 11 (Bedrohungen für die menschliche Autonomie/das menschliche Handeln)
[Bearbeiten]Wie wird sichergestellt, dass Nutzende bei der Verwendung von KI-Systemen ihre Handlungsfähigkeit behalten? Wie wirkt sich das KI-System auf die Kompetenzen und das Selbstvertrauen der Nutzenden aus?
Bedrohungen für die menschliche Autonomie, das menschliche Handeln. KI-Systeme können einen unterstützenden Effekt haben. Sie können aber auch zu einem Verlust von Kompetenzen und Vertrauen in die eigenen Fähigkeiten führen und eine Abhängigkeit von der Technologie schaffen. KI-Systeme werden häufig ohne ausreichende Kennzeichnung im Hintergrund oder auf undurchsichtige Weise eingesetzt, was zu einer Einschränkung der menschlichen Entscheidungsfreiheit führen kann.
Frage 12 (Gefahr von Arbeitsplatzverlusten oder Entstehung/Verstetigung ausbeuterischer Arbeitsverhältnisse)
[Bearbeiten]Welche Auswirkungen hat der Einsatz des KI-Systems auf Arbeitsverhältnisse (Stellenabbau, Entstehung oder Verstetigung prekärer Arbeitsverhältnisse)?
Gefahr von Arbeitsplatzverlusten oder Entstehung/Verstetigung ausbeuterischer Arbeitsverhältnisse. KI-Systeme werden z.B. von Arbeitgebern eingesetzt um Stellen, die über kreatives Fachwissen verfügen zu verdrängen. KI-Entwicklung ist in den meisten Fällen auf schlecht bezahlte, prekär beschäftigte Arbeitskräfte aus Drittländern angewiesen, die als Datenarbeiter*innen teils unter traumatisierenden Bedingungen die Aufgabe der Datenkennzeichnung und -filterung ausführen, ohne die KI-Systeme nicht verwendbar wären.
Frage 13 (Erhebliche Umweltauswirkungen)
[Bearbeiten]Welche Auswirkungen auf die Umwelt hat der gesamte Lebenszyklus des KI-Systems insbesondere was Strombedarf und Wasserverbrauch angeht.
Erhebliche Umweltauswirkungen. Digitale Technologien haben Auswirkungen auf die Umwelt. Durch den Abbau der Rohstoffe und die Energie, die für Herstellung und Transport von Bauelementen/gefertigten Geräte aufgebracht werden muss, sowie den Strombedarf für das Training und die letztendliche Nutzung von KI-Modellen durch Anwender*innen. Insbesondere generative KI stellt erhebliche Anforderungen an Energie und Frischwasser zur Kühlung von Rechenzentren.
Frage 14 (Unreguliertes KI-Wettrüsten)
[Bearbeiten]Wenn es sich bei der Entwicklungsfirma um einen Dritten handelt, wie sieht das Geschäftsmodell und der Ansatz für einen verantwortungsvollen Betrieb aus?
Unangemessene Macht unregulierter, monopolistischer Tech-Unternehmen und das Entstehen eines schädlichen internationalen KI-Wettrüstens. Anstatt zum Wohle der gesamten Menschheit auf nachhaltige Weise entwickelt zu werden, liegen viele Aspekte der KI-Entwicklung in Firmen, die niemandem gegenüber Rechenschaft ablegen. KI-Modelle und -Systeme sollten lokal und unter Berücksichtigung kultureller Besonderheiten entwickelt werden. Offene, nicht proprietäre Ansätze sind zu bevorzugen.
Bibliothek
[Bearbeiten]Andrew M. Cox und Maria De Brasdefer (Mai 2025): IFLA Entry Point for Libraries and AI
OPUS: Beitragsfolien der #vBIB25. Direkter Link zu den Folien dieses Vortrages: urn:nbn:de:0290-opus4-200127
TIB-AV-Portal: Aufzeichnung des Beitrags: doi:10.5446/72141