Wolkenlose KI für eigene Dokumente zu Hause (glt25)

KI-Anwendungen sind gerne in der Cloud, sammeln die eingegebenen Daten zur eigenen Weiterverwendung, sind auf viele Themen allergisch und fördern den Bau von Atomkraftwerken. Dass das nicht so muss, zeigt dieser Vortrag. Auf Basis eines Jupyter-Notebooks und gehen wir gemeinsam die grundsätzlichen Schritte durch, wie sich mit quelloffenen Bibliotheken und unter Verwendung von Sprachmodellen mit offenen Gewichten eine KI-Anwendungen bauen lässt. Dort lassen sich dann eigene Dokumente einspielen und in Folge dazu Fragen stellen. Der Vortrag enthält auch einige Blicke unter die Haube, um grob zu verstehen, wie eine Vektordatenbank agiert und was einige Möglichkeiten zur Vorverarbeitung von Daten sind, um die Ergebnisse zu verbessern. Am Ende sollten programmiertechnisch grundsätzlich begabte Personen das Rüstzeug haben, um zu Hause eine eigene KI-Anwendung umsetzen zu können. Am besten betrieben mit Strom aus der PV-Anlage. Licensed to the public under https://creativecommons.org/licenses/by/4.0/ about this event: https://pretalx.linuxtage.at/glt25/talk/FJKZKN/