Ein versteckter Airtag enthüllte, dass Amazon in Las Vegas seltenen Büchern den Buchrücken entfernt und sie für die Entwicklung seiner KI-Modelle scannt, eine ethische Debatte über die Zerstörung von Kulturerbe ist entbrannt.
Amazon, das Unternehmen, das einst als Online-Buchhandlung begann, kauft nun systematisch seltene Bücher auf, zerstört sie und nutzt deren Inhalt, um eigene KI-Modelle zu trainieren. Die Entdeckung wurde bestätigt, als ein Buchhändler in einem der Bücher aus einer Massenbestellung einen Airtag versteckte, der anschließend bis zu einer Amazon-Einrichtung für KI-Training in Las Vegas verfolgt wurde, wie 404 Media berichtet und Ars Technica übernimmt.
Im Lager mit der Bezeichnung VGT3, dessen Tür mit dem Logo eines Tyrannosaurus Rex verziert ist, der sich anschickt, ein Buch zu verschlingen, ist ein Team von Mitarbeitern damit beauftragt, Büchern den Buchrücken zu entfernen und die Seiten zu scannen. Amazon lehnte es ab, die Ergebnisse von 404 Media zu kommentieren, und lieferte lediglich eine kurze Stellungnahme: "Amazon kauft Bücher über kommerzielle Kanäle, um Produkte und Dienstleistungen zu entwickeln und zu verbessern, die unsere Kunden nutzen."
In der Stellungnahme wird KI-Training nicht ausdrücklich erwähnt, doch Amazon entwickelt eigene Modelle, die als "Frontier"-Technologie gelten, und benötigt dafür enorme Mengen einzigartiger Daten, um gegenüber Unternehmen wie Google, OpenAI und Anthropic wettbewerbsfähig zu bleiben. Die Unternehmen hüten derzeit ihre Trainingsdaten sorgfältig, um keinen Vorteil zu verlieren, und Texte aus seltenen Büchern, die im Internet schwer zu finden sind, bieten genau diesen Vorteil.
Laut Diskussionen in Internetforen, die von 404 Media gesichtet wurden, deuteten Mitarbeiter von VGT3 an, dass Amazon Anfang dieses Jahres die Bücher zum Scannen ausgegangen seien. Die Knappheit war so ernst, dass die Mitarbeiter eine Schließung des Lagers befürchteten. Irgendwann war der Bestand völlig erschöpft, doch die Einrichtung ist weiterhin in Betrieb, und Massenbestellungen seltener Bücher werden weiterhin geliefert und systematisch zerstört.
Die Untersuchung von 404 Media hat die Theorie der Buchhändler weiter untermauert, dass KI-Unternehmen Bücher mit ISBN-Nummern ins Visier nehmen, um das größtmögliche Volumen einzigartiger Werke in Datensätzen zu sichern. Die Mitarbeiter sind nämlich darin geschult, Barcodes oder ISBN-Nummern zu scannen, bevor sie die Bücher selbst scannen. Wie 404 Media ausführt, verleiht dies der Theorie "zusätzliche Glaubwürdigkeit", dass "KI-Unternehmen versuchen, methodisch jedes gedruckte Buch der Welt zu scannen, indem sie eine Liste von ISBN-Nummern durchgehen."
Für Buchhändler kann das Geld gut sein, aber das Risiko, dass ihre sorgfältig zusammengetragenen Sammlungen in einem destruktiven Scanprozess enden, wirft ein ethisches Dilemma auf. KI-Unternehmen überspringen den Schritt der Bewertung des Buchwerts und jagen nach billigen, einzigartigen ISBN-Nummern, um ihre Listen zu füllen. Oft zielen sie auf ältere Bücher mit geringerem Geldwert ab, wie solche, die nie aus Sprachen übersetzt wurden, die heute selten verwendet werden, oder die nie populär genug waren, um weit verbreitet zu sein.
"Diese Bücher können historischen Wert, intellektuellen Wert, sentimentalen Wert haben", sagte der Buchhändler, der den Airtag für 404 Media platziert hatte. "KI-Unternehmen kümmern das nicht. Sie wollen nur Inhalt als einen Haufen zusammenhängender Wörter."
Der schottische Buchhändler Derek Walker warnte gegenüber der BBC, dass KI-Unternehmen zwischen Werken unterscheiden sollten, die nicht fehlen werden, und antiquarischen Exemplaren, die "das einzige bekannte überlebende Exemplar einer Ausgabe" sind. "Es wäre ein viel bedeutenderes Problem, wenn ein solches Exemplar zum Zweck der Zerstörung gekauft würde, nachdem es so lange überlebt hat", sagte Walker.
Auf Reddit sind Buchliebhaber geteilter Meinung darüber, ob es problematisch ist, dass Unternehmen seltene Bücher für KI-Training zerstören. "Du hattest nicht vor, dieses alte Papierbuch zu kaufen", kommentierte ein Nutzer. Ein anderer behauptete, dass "ein obskures Buch aus dem 18. Jahrhundert jetzt ein Museumsexemplar ist und alltägliche Dinge offenbaren kann, die wir nicht kannten".
Der ursprüngliche Poster auf Reddit betonte, dass KI-Unternehmen "den Inhalt" der gescannten Bücher "niemals teilen werden", "weil sie nicht wollen, dass irgendjemand anderes seine KI" mit denselben Werken trainieren kann. Ein Kommentator fügte hinzu, dass KI-Modelle nur "verzerrte, zensierte und hinter Paywalls verborgene Fragmente von Ideen" aus vergessenen Werken zugänglich machen werden. "Selbst wenn du Technologie liebst, kannst du zugeben, dass das Konzept einer KI, die buchstäblich Bücher frisst, um mächtiger zu werden, ziemlich dystopisch ist", schrieb eine Person im Reddit-Thread.
Michael Burry, ein bekannter Kritiker, soll die Praxis als "das Böse in Person" bezeichnet haben. Auf der anderen Seite beschrieben Amazon-Mitarbeiter in Foren den Job als "schöne" Gelegenheit für diejenigen, die eine monotone Arbeit mit flexiblen Arbeitszeiten suchen.
Unternehmen wie Amazon benötigen unvorstellbar große Mengen an Text, um ihre großen Sprachmodelle (LLMs) zu trainieren. Das Internet ist bereits weitgehend ausgeschöpft, und seltene Bücher, insbesondere solche, die nicht mehr im Druck sind oder im Internet unmöglich zu finden sind, bieten eine neue Quelle begehrter Daten.
Diese Texte sind besonders wertvoll, weil es keine Chance gibt, dass etwas, das vor 2022 veröffentlicht wurde, von einem LLM geschrieben wurde. Wenn Modelle mit Text trainiert werden, der von KI generiert wurde, riskieren sie einen "Model Collapse", der auftritt, wenn die Qualität der Modellausgaben degradiert, nachdem das Modell zu viel KI-generierten Text aufgenommen hat.
