📝 Texte von KI schreiben lassen [Informatik @ Exorciser]

Diese Seite ist nicht editierbar. Sie können den Quelltext sehen, jedoch nicht verändern. Kontaktieren Sie den Administrator, wenn Sie glauben, dass hier ein Fehler vorliegt.
{{gem/mgr}}{{ gem/pageinfo}}

====== 📝 Texte von KI schreiben lassen ======

\\ 
🎯 Hier lernst du, nach welchen Grundprinzipien KI-Chatbots Texte erzeugen.

ℹ️ Dieses Kapitel basiert auf einer Ausarbeitung von Schwaninger. 

\\ 
~~INTOC~~

\\ 
===== - Textvorhersage =====
🪄 KI-Chatbots wie ChatGPT erzeugen Texte wie von Zauberhand.

🤔 Doch wie funktioniert das?

💡 Grundsätzlich lernt die KI hinter ChatGPT mithilfe ganz vieler Texte, wie ein Text typischerweise fortgesetzt werden kann. Wird danach ein Prompt eingegeben, so "erinnert" sich ChatGPT an diejenigen Texte, welche dem Prompt ähnlich sind.  Danach versucht es eine Ausgabe zu erzeugen, welche diesen Texten ähnlich ist.

🤯 KI-Chatbots sind ziemlich kompliziert. Um die Grundlagen der Textvorhersage zu verstehen, befasst du dich im Folgenden mit einem viel einfacheren System.

\\ 
===== - Wortvorschläge auf dem Smartphone =====
<figure right>{{:p:pasted:wortvorhersage.png?350}}<caption>Wortvorhersage((Bild: KI-generiert)).</caption></figure>

Du kennst sicherlich die Wortvorschläge auf dem Smartphone, welche dir beim Tippen von Text eingeblendet werden. Diese Worte werden dir nicht mit einem KI-Chatbot generiert, sondern mit einer einfacheren Technik, mit sogenannten "N-Grammen". 

Doch was ist ein N-Gramm? 

Untenstehend siehst du zwei Bilder. Betrachte zuerst das Bild links. Darin werden oben drei Texte gezeigt. Das ist die Datenbasis. Das vierte Textfeld darunter ist das Eingabefeld in welchem getippt wird. Aktuell steht dort drin: "Neues Märchen - Es war einmal". Die Frage ist, wie wird der Text basierend auf der Datenbasis fortgesetzt werden? 

Die letzten beiden Worte im Eingabefeld sind rot markiert. In den drei Texten darüber sind diese beiden Worte ebenfalls rot markiert. Die grün markierten Wörter zeigen, wie in den drei Texten "war einmal" fortgesetzt wird. Zweimal ist die Fortsetzung "ein", einmal ist die Fortsetzung "eine". Im rechten Bild ist das durch die Pfeile 2/3 (Chance) und 1/3 (Chance) dargestellt. Welche Fortsetzung gewählt wird, wird zufällig bestimmt. Aber meist gewinnt die Fortsetzung, welche am häufigsten in der Datenbasis vorkommt.

<WRAP clear/>

| {{ :p:pasted:ngramm1.png?467 }} | {{ :p:pasted:ngramm2.png?467 }} |
|  Welches Wort ist das Nächste?((Eigene Darstellung))  ||

  ; N-Gramm
  : Ein "N"-Gramm besteht aus N vielen Wörtern. Davon stammen die ersten N-1 Wörter aus der Eingabe (die roten Wörter). Das letzte Wort ist eine mögliche Fortsetzung aus der Datenbasis (ein grünes Wort).

Im obenstehenden Beispiel werden 3-Gramme verwendet. Das 3-Gramm besteht aus den zwei letzten Wörtern der Eingabe (rot: "war einmal") und einem Fortsetzungswort aus einem der drei Texte (grün: "ein" oder "eine"). Konkret gibt es die drei 3-Gramme: "war einmal ein", "war einmal ein" und "war einmal eine".

<WRAP center round box >
== ✍ Auftrag "N-Gramme finden"==
Gegeben ist eine Datenbasis mit folgenden drei Dokumenten:
  * **Dokument A:** Es war einmal ein kleiner Drache, der lebte glücklich im Wald. 
  * **Dokument B:** Vor langer Zeit lebte einmal ein alter König in einem verwunschenen Schloss. 
  * **Dokument C:** Es war einmal ein alter König, der Gold über alles liebte.
  - Wie wird der folgende Text fortgesetzt, wenn nur 3-Gramme verwendet werden? Schreibe deine Antwort in das Textfeld. ++Hinweis (falls gebraucht anklicken)|\\ \\ Ein 3-Gramm besteht aus den letzten beiden Wörtern des Textanfangs. Wo kommt diese diese Wortfolge überall im Text vor? Welches Wort folgt jeweils darauf?\\ \\ ++ {{gem/match?0=N4IgTgpg5hAeAOIBcIB6BRAzgAgO4EMxsIBLAOwFt8AbY87GgFwjABIQAaEAM2vykzIQJTiGaxGQrHkJ1KNOdhABfIA#ca9abf267168b600}}
  - Wie wird der folgende Text fortgesetzt, wenn nur 5-Gramme verwendet werden? Hier musst du etwas kreativ sein - schaue dir sonst das "Lösungsbeispiel" an. ++Hinweis (falls gebraucht anklicken)|\\ \\ Ein 5-Gramm besteht aus den letzten vier Wörtern des Textanfangs. Wo kommt diese Wortfolge überall im Text vor? Welches Wort folgt jeweils darauf?\\ \\ ++{{gem/match?0=N4IgTgpg5hAeAOIBcIB6BRAzgAgO4EMxsIBLAOwFt8AbY87AChoBcIwA6AKgGtrSy2ASgA+DXvzZcWQkABoQAM2r4omZCBJyQrWM3VY8hOpRrHsIAL5A#c2039bfc481488f5}} ++Lösungsbeispiel|\\ \\ Es war einmal ein alter / Es war einmal ein kleiner\\ \\ ++
</WRAP>

\\ 
===== - Das N-Gramm-Tool SoekiaGPT =====

<WRAP center round box >
== ✍ Auftrag "SoekiaGPT ausprobieren" ==
{{ gem/flag?label=Erledigt&icon=%E2%9C%8D#9fff6089afdac917}}
  - Öffne [[https://www.soekia.ch/GPT/|SoekiaGPT]] .
  - ⚠️ Was du als Prompt eingibst, ist egal, das wird von SoekiaGPT in der Grundeinstellung ignoriert.
  - Klicke auf den ▶ Pfeil im Eingabefeld, es wird ein Märchen erzeugt.
</WRAP>

<figure center>{{:p:pasted:soekiagpt.png?1044}}<caption>Screenshot von SoekiaGPT((Hielscher M. und Hartmann W., "SoekiaGPT", Pädagogische Hochschule Schwyz, CC BY 4.0, URL: https://www.soekia.ch/gpt.html))</caption></figure>

\\ 
Das Online-Tool "SoekiaGPT" kann Texte basierend auf N-Gramm-Häufigkeiten und Zufall generieren. 
 
<WRAP center round box >
== ✍ Auftrag "SoekiaGPT untersuchen"==
  - Klicke auf SoekiaGPT oben rechts auf ''SCHAU HINEIN''.
    * Der grüne Bereich zeigt die Dokumente der Datenbasis.
    * Der gelbe Bereich zeigt die in den Dokumenten gefundenen N-Gramme. 
    * Der rote Bereich zeigt die N-Gramme mit der höchsten Punktzahl für die Textfortsetzung.
    * Im blauen Bereich werden die Texte erzeugt. Wird ein N-Gramm für den generierten Text berücksichtigt, dass nur in einem Dokument vorkommt, so wird dieser Text mit der Farbe des zugehörigen Dokuments angezeigt.
  - Für die Textgenerierung werden in der Grundeinstellung 1-, 2-, 3-, 4- und 5-Gramme verwendet. Dies ist im Bereich ''N-Gramme'' oben rechts ersichtlich. Dort steht ''N<=5''. Wenn du z. B. ''N<=3'' einstellst, werden nur noch 1-, 2- und 3-Gramme berücksichtigt. Lass dir Märchen mit ''N<=5'', ''N<=3'' und ''N<=1'' erstellen. Wie unterscheiden sich die Geschichten in ihrer Qualität? Halte deine Antwort stichwortartig im Textfeld fest. {{gem/plain?0=N4XyA#49a4daf09c979c6b}} ++Erklärung zu N<=1|\\ \\ Ein 1-Gramm nutzt 0 Wörter vom generierten Text. D.h. der generierte Text wird ignoriert. Verwendet wird somit das häufigste Wort aus allen Dokumenten.\\ \\ ++
  - Alle N-Gramme werden mit Punkten benotet (wird als grüner Balken angezeigt). Je häufiger ein N-Gramm in den Dokumenten vorkommt, desto höher die Punktzahl. Weiter gilt: Je grösser das N desto mehr Punkte. Das finale N-Gramm für die Fortsetzung wird zufällig ausgewählt, aber ein N-Gramm mit mehr Punkten hat eine höhere Wahrscheinlichkeit.\\ Wenn du im Bereich ''Text erzeugen'' auf den Button ''selbst auswählen'' klickst, kannst du selbst aus den N-Grammen mit den höchsten Punktzahlen auswählen. Es werden dir dabei aber nur die Fortsetzungswörter angezeigt. Je dunkler der Grünton der Fortsetzungswörter ist, desto grösser ist das N des zugehörigen N-Gramms. Lasse dir ein Märchen erzeugen, in welchem du ab und zu selbst das nächste Wort wählst. Kopiere das Märchen ins Textfeld. {{gem/plain?0=N4XyA#ac171f95ffa0ee44}}
</WRAP>

<WRAP center round box >
== ✍ Auftrag "Dem Zufall auf die Sprünge helfen"==
  - Öffne das ⚙️ Zahnrad oben im Bereich ''Wortvorschläge''. Lies darin den Text zur Temperatur. Lass dir Märchen mit tiefer und Märchen mit hoher Temperatur generieren. Was stellst du fest? Was bedeutet die Temperatur für "Kreativität" und "Textschönheit"? Halte deine Einsichten im Textfeld fest. {{gem/plain?0=N4XyA#6eb17c7183683da7}} ++Hinweis|\\ \\ Bei einer hohen Temperatur werden häufiger auch N-Gramme mit tiefer Punktzahl gewählt.\\ \\ ++
</WRAP>

<WRAP center round box >
== ✍ Auftrag "Prompt berücksichtigen"==
  - Öffne das ⚙️ Zahnrad oben im Bereich ''Wortvorschläge''. Stelle die Temperatur zurück auf 60%. Aktiviere dort auch den obersten der drei Schalter "eingegebenen Prompt auswerten".\\ 💡 Jetzt wird in der Dokumentensammlung nach Dokumenten gesucht, in welchen die Wörter aus dem Prompt vorkommen. Je mehr davon vorkommen desto höher ist die Punktzahl des Dokuments. Für die Textgenerierung werden vor allem N-Gramme aus diesen Dokumenten genommen.
  - Gib als Prompt "Schreibe mir ein Märchen mit Rotkäppchen." Was für eine Art Geschichte wird nun geschrieben? Welche Dokumente wurden berücksichtigt? Halte deine Beobachtung fest. {{gem/plain?0=N4XyA#a10a92d8d94f50af}}
  - Gib nun als Prompt "Schreibe mir ein Märchen mit einem Wolf." In welchen Dokumenten kommt das Wort "Wolf" vor? Handelt die erzeugte Geschichte wirklich von einem Wolf? Wie lässt sich das erklären? {{gem/plain?0=N4XyA#b85fa3fd5a4704af}} ++Erklärung|\\ \\ Das Wort "Rotkäppchen" kommt häufig im Märchen Rotkäppchen vor und folgt oft nach Wortfolgen, welche häufig im Text vorkommen. Daher ist die Wahrscheinlichkeit hoch, dass das Wort "Rotkäppchen" ausgewählt wird. \\ Das Wort "Wolf" kommt in den ersten beiden Dokumenten vor, aber relativ selten. Die Wortfolgen vor Wolf sind auch eher seltene Wortfolgen. Daher ist die Wahrscheinlichkeit klein, dass das Wort "Wolf" ausgewählt wird.\\ \\ ++
</WRAP>

<WRAP center round box >
== ✍ Auftrag "Fake News erzeugen"==
  - Öffne das ⚙️ Zahnrad oben im Bereich ''Wortvorschläge''. Stelle die Temperatur auf 60%. **!!Deaktiviere!!** den obersten der drei Schalter "eingegebenen Prompt auswerten".
  - Öffne [[https://drive.google.com/file/d/1Mv1b6k871TBB870GYRVy1goof0VtROQt/view?usp=drive_link|Soekia-Beispiel]], klicke dort auf ''Datei'' und auf ''Herunterladen''. Speichere die Datei an einem Ort, an welchem du die Datei wiederfindest.
  - In SoekiaGPT im Bereich ''Dokumente'' klicke auf das ''≡''-Symbol oben ganz rechts und wähle ''Soekia-Datei hochladen''. Wähle das Soekia-Beispiel aus.
  - Schaue dir den generierten Text an. Schaue dir die vier Dokumente in der Dokumentensammlung an. Aus welchem Dokument stammt der Text? Gib den Buchstaben des Dokuments in das Textfeld ein. {{gem/match?0=N4IgTgpg5hAeAOIBcIB6BBAJCANCAZgDYCGUAzsiAJa4gAucdlIAvkA#d3a4e5c2cdecaf89}}
  - Erzeuge einen neuen Text. Jetzt wird ein komplett anderer Text ausgegeben. Aus welchen Dokumenten stammt dieser Text? {{gem/match?0=N4IgTgpg5hAeAOIBcIB6BtAggIQMIF0QAaEAMwBsBDKAZ2RAEtiQAXOF+kAXyA#b05b356de22dd99f}}
  - Öffne erneut das ⚙️ Zahnrad oben im Bereich ''Wortvorschläge''. **Aktiviere** diesmal den obersten der drei Schalter "eingegebenen Prompt auswerten".
  - Gib den Prompt ''Trump Grönland'' ein. Was für ein Text erscheint nun? {{gem/plain?0=N4XyA#86f67a0031c92f05}}
  - Was bedeutet das für das verbreiten von Fake News? Wie kriege ich ein Sprachmodell dazu, Fake News zu produzieren? {{gem/plain?0=N4XyA#4cca1cf6c0699d84}} ++Erklärung|\\ \\ Ein Sprachmodell gibt wieder, was in der Datenbasis steht. Werden Texte mit Fake News in die Datenbasis eingeschleust, so ist es möglich, dass das Sprachmodell daraus Texte wiedergibt. Insbesondere dann, wenn im Prompt Worte aus dem Fake-News-Text vorkommen.\\ \\ ++
</WRAP>

\\ 
===== - Vergleich zwischen SoekiaGPT und ChatGTP =====

Bei SoekiaGPT werden in einem ersten Schritt alle 1-, 2-, 3-, 4- und 5-Gramme in allen Texten herausgesucht. Danach bekommen die N-Gramme Punkte. Ein Teil der Punkte stammt von ihrer Häufigkeit. Weiter bekommen N-Gramme mit vielen Wörtern (z. B. 5-Gramme) mehr Punkte als N-Gramme mit wenigen Wörtern (z. B. 1-Gramme). Ist das geschafft, braucht es die Texte nicht mehr. In einem zweiten Schritt wird mit dieser "N-Gramm-Hitparade" ein zufälliger Text generiert. N-Gramme mit vielen Punkten werden häufiger gewählt als N-Gramme mit wenigen Punkten.

Bei KI-Sprachmodellen wie ChatGPT ist das komplizierter. Diese nutzen sogenannte neuronale Netze. Das sind mathematische Modelle, welche dem menschlichen Gehirn nachempfunden sind. Das Spezielle bei diesen Modellen: Sie beinhalten viele Zahlen, welche eingestellt werden können. Diese Zahlen bilden das Gedächtnis. In einem ersten Schritt werden diese Zahlen mithilfe aller verfügbaren Texte eingestellt. Und zwar so, dass am Ende das KI-Sprachmodell, schöne Texte erzeugt. Ist das geschafft braucht es die Texte nicht mehr. In einem zweiten Schritt wird mithilfe dieser Zahlen ein zufälliger Text generiert. Je häufiger eine Textfortsetzung in den Daten vorkam, desto wahrscheinlicher ist es, dass diese Fortsetzung gewählt wird. 

SoekiaGPT und ChatGPT funktionieren im Prinzip ganz ähnlich. Jedoch sind die neuronalen Netze in ChatGPT deutlich anpassungsfähiger als die N-Gramme in SoekiaGPT und die Datenbasis von ChatGPT ist ungleich grösser als diejenige von SoekiaGPT. Generell sind die KI-Sprachmodelle den N-Gramm-Modellen klar überlegen. Aber für das Vorschlagen eines Wortes beim Tippen auf dem Smartphone genügen N-Gramme allemal.

<WRAP center round box >
== ✍ Auftrag "Vergleich" ==
  - Fasse den obigen Text zusammen, indem du stichwortartig die Gemeinsamkeiten zwischen ChatGPT und SoekiaGPT und auch die Unterschiede zwischen beiden auflistest.
{{gem/quill#7d21de6661725069}}
</WRAP>
\\ 

===== 🤩 SoekiaGPT für Fortgeschrittene =====
🤩 Abschnitt für Schnelle oder Interessierte

<WRAP center round box >
== ✍ Auftrag "andere Datenbasen"==
  - Klicke im Bereich ''Dokumente'' oben rechts auf den mittleren Button ("Vorgegebene Kollektionen"). Jetzt werden dir verschiedene Dokumentsammlungen angezeigt. Wähle die zweite aus ("Fairy Tales"). Erzeuge damit ein paar Texte.
  - Mache dasselbe mit der dritten und vierten Dokumentensammlung ("Wettervorhersage" und "Tiergeschichten- und beschreibungen").
  - Für welche Dokumentsammlung werden deiner Meinung nach die besten Texte generiert ("Märchen", "Fairy Tales", "Wettervorhersage" und "Tiergeschichten- und beschreibungen")? Kopiere ein Textbeispiel deines Favoriten in das Textfeld. {{gem/plain?0=N4XyA#b075bc68bb0a26ba}}
</WRAP>

<WRAP center round box >
== ✍ Auftrag "Ähnlichkeit und Synonyme"==
  - Wähle die Dokumentensammlung "Tiergeschichten und -beschreibungen".
  - Öffne das ⚙️ Zahnrad oben im Bereich ''Wortvorschläge'' und aktiviere die beiden untersten Schalter "grammatikalisch ähnliche Wörter einbeziehen" und "Synonyme einbeziehen".\\ 💡 Damit werden N-Gramme welche sich nur in zueinander ähnlichen Wörtern (im Bereich Wortvorschläge rot markiert) oder Synonymen (Wörter mit gleicher Bedeutung werden blau markiert) unterscheiden, zusammengezählt und erhalten so eine höhere Wahrscheinlichkeit gewählt zu werden. KI-Sprachmodelle wie ChatGPT sind ebenfalls in der Lage, ähnliche Wörter und Synonyme erkennen zu können.
  - Lasse Texte generieren und versuche durch betätigen der Pausentaste rot markierte ähnliche Wörter zu finden und blau markierte Synonyme. Halte einige davon fest. {{gem/match?0=N4IgLgpgHmIFwgEIQJYGcAOKIBsIAIATgCwDscUBjYiAJ3wHUA32yeufAHVOXS1wIA3APal8AZQCepUZIC2EMfmUcQAXyA#b05b356de22dd99f}}
</WRAP>

<WRAP center round box >
== ✍ Auftrag "Musik generieren"==
  - Klicke im Bereich ''Dokumente'' oben rechts auf den mittleren Button ("Vorgegebene Kollektionen"). Wähle die Kollektion "Musik in ABC-Notation" aus. 
  - Erzeuge damit einen Text. Genau das ist ein Musikstück. Lasse dir das Musikstück abspielen. Experimentiere etwas mit dieser Dokumentensammlung herum. Kopiere eines der erzeugten Musikstücke in das Textfeld. {{gem/plain?0=N4IgLgpgHmIFwhAXyA#9ac8426af7690434}}
</WRAP>

<WRAP center round box >
== ✍ Auftrag "Eigene Dokumente"==
  - In SoekiaGPT im Bereich ''Dokumente'' klicke auf das ''≡''-Symbol oben ganz rechts und wähle ''Neue Kollektion''. 
  - Erstelle ein paar Dokumente mit eigenen Texten (z. B. aus dem Internet). 
  - Generiere ein paar Texte und halte einen davon im Textfeld fest. {{gem/plain?0=N4IgLgpgHmIFwhAXyA#8a3be8136a42d155}}
</WRAP>

\\ 
=== Eigene Notizen ===
{{gem/quill#0b79d82e1c800362}}