Auf den IT-Tagen 2026 in Frankfurt am Main halten gleich zwei Aquantico-Kolleg*innen Vorträge: Simon C. Kessler stellt vor, welche Runtimes für den lokalen Betrieb von Large Language Models geeignet sind, Petra Waschk beleuchtet, wie Bias in Daten erkannt und behandelt werden kann.
- Veranstaltung: IT-Tage 2026
- Datum: 07.–10. Dezember 2026
- Ort: Kap Europa, Frankfurt am Main
KI lokal betreiben — aber wie? LLM-Runtimes im Vergleich
Speaker: Simon C. Kessler
- Vortrag: Dienstag, 08. Dezember 2026, 14:00–14:45 Uhr
- Agenda: Programmeintrag
KI-Systeme auf eigener Infrastruktur zu betreiben hat viele Vorteile, wie das Erfüllen von Datenschutz- und Geheimhaltungsanforderungen oder die Reduzierung von Abhängigkeiten von Cloud-Anbietern und deren Kostenstrukturen.
Doch zwischen dem Herunterladen eines Modells und einem stabilen, effizienten Betrieb liegt eine entscheidende Frage: Welche Software stellt das rohe Modell tatsächlich über eine API zur Verfügung und führt die Anfragen aus?
Dieser Vortrag gibt einen praxisorientierten Überblick über die wichtigsten Runtimes für den lokalen Betrieb von LLMs, wie z. B. Ollama oder vLLM. Dabei werden nicht nur technische Unterschiede beleuchtet und an konkreten Beispielen gezeigt, was für die Einrichtung nötig ist, sondern auch die Frage diskutiert, welche Lösung für welches Szenario sinnvoll ist.
Der Vortrag vermittelt das nötige Wissen, um konkrete Entscheidungen für die eigene Infrastruktur und Anforderungen treffen zu können — unabhängig davon, ob Sie selbst Ihr KI-System entwickeln oder die technische Architektur abstecken.
Problem erkannt, Problem gebannt – Bias in Daten
Speaker: Petra Waschk
- Vortrag: Mittwoch, 09. Dezember 2026, 10:00–10:45 Uhr
- Agenda: Programmeintrag
Amazon hat sein Bewerbungstool abgeschafft, weil es Frauen diskriminierte – und das war zunächst niemandem aufgefallen.
Der erste Schritt zur Lösung ist das Problem zu erkennen. Dies ist jedoch nicht immer einfach, wenn das Problem unsichtbar zu sein scheint. Daten sind nicht objektiv. Aber ebenso wenig sind es Menschen. Jeder von uns hat seine individuelle Sicht auf die Welt und somit leider auch blinde Flecken. Das ist nur menschlich.
Trotzdem müssen wir Strategien finden, wie wir damit umgehen, damit Bias (Datenverzerrung) in der Datengrundlage nicht zu unerwünschten Ergebnissen führt. Dabei ist das Problem nicht neu, es wird jedoch durch neue Technologien wie z. B. KI nicht automatisch gelöst, sondern im Gegenteil sogar potenziell verstärkt. Und manchmal ist Bias vielleicht sogar gewünscht. Dann sollten wir allerdings in der Lage sein, diesen nach unseren Zielen zu steuern.
Im Vortrag schauen wir uns die Studienlage der letzten Jahre an. Dabei werden ein paar bekannte Beispiele für Bias in Daten präsentiert, aber auch unerwartete. Schließlich diskutieren wir effektive Lösungsstrategien und wie diese Strategien in Ihrem Unternehmen umgesetzt werden können und welche Vorteile sich dadurch ergeben.