Die Textanalyse als Disziplin des Deutschunterrichts ist uns noch in guter oder schlechter Erinnerung geblieben. Es galt, das Wichtigste über wer-was-wann-wo-warum herauszufinden und den Ursprungstext in wenigen Sätzen zusammenzufassen.
Welche relevanten Informationen kann ein Computer in einem Text erkennen? Kann er auch „zwischen den Zeilen“ lesen?
Jeder, der etwas von Computern versteht, weiß, dass diese ausschließlich in „Nullen“ und „Einsen“ denken. Wie also kann ein Computer einen natürlich-sprachlichen Text dann nicht nur lesen, sondern sogar verstehen? Dies wollen wir im zweiten Teil unseres Beitrags näher betrachten. Auf der Basis der Computer-Wörter „0“ und „1“ entstanden zu Anfang unseres digitalen Zeitalters Algorithmen für numerische Berechnungen, beispielsweise im Verwaltungswesen oder für wissenschaftliche Anwendungen. Der Umgang mit Texten beschränkte sich zunächst auf das Darstellen, Abspeichern, Wiederfinden, Vergleichen, Sortieren, Ändern und Löschen. Welche Techniken und Finessen sind erforderlich, dass ein Computer einen Text auch „verstehen“ kann?
Weiterlesen
Computer verarbeiten numerisch kodierte Daten mit hoher Schnelligkeit und in großen Mengen. Wie ist es allerdings möglich, eine natürliche, menschliche Sprache binär abzubilden und dem Computer ein Verständnis für Texte und ihre Bedeutung zu vermitteln?
Weiterlesen
Automatische Entscheidungssysteme, die auf maschinellem Lernen basieren, enthalten oftmals einen sogenannten „Bias“ (deutsch: Vorurteil, Verzerrung). Darunter versteht man Bewertungen, die aufgrund unzureichender Kenntnis und somit einseitiger Einschätzung bestimmter Sachverhalte getroffen werden. Dies kann nicht nur bei ML-Algorithmen vorkommen, denn auch Menschen lassen in ihre Entscheidungen oft Vorurteile einfließen – meist unbewusst. Wesentliche ethische Fragen im Maschinellen Lernen diesbezüglich sind also: Dürfen Machine-Learning-Algorithmen Bias enthalten? Und wenn ja, wann und wie viel „Bias“ ist vertretbar?
Weiterlesen
Kürzlich machte Google Schlagzeilen, weil es innerhalb weniger Monate bereits seine zweite leitende Forscherin zur Ethik in der KI gefeuert hat. Timnit Gebru und ihre Kollegin Margaret Mitchell forschten an dem Paper „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?“, in dem es um die Risiken von großen Transformermodellen wie BERT, GTP-3 oder Switch-C geht, die auf extrem umfangreichen aus dem Web extrahierten Textsammlungen trainiert werden. Neben den enormen energetischen Ressourcen, die zum Training benötigt werden, macht das Paper auch darauf aufmerksam, dass bei solch großen Datenmengen oftmals auch Bias (=Vorurteile, statistische Verzerrungen) mitgelernt werden. Zudem ist es schwierig, einen Überblick über die Qualität des Datensatzes zu bewahren und damit solchen ungewollten Begleiterscheinungen entgegenzuwirken.
Weiterlesen