TECH TALK: Datenschutz-konforme KI-Nutzung durch lokal ausgeführte Sprachmodelle (LLMs)

Die Nutzung von Künstlicher Intelligenz (KI) revolutioniert zahlreiche Lebens- und Arbeitsbereiche. Insbesondere LLMs eröffnen neue Möglichkeiten, Aufgaben effizienter zu lösen. Cloudbasierte KI-Dienste werfen regelmäßig Fragen zum Datenschutz auf, da sensible Daten auf externen Servern verarbeitet werden, die oft außerhalb der Kontrolle der Nutzer:innen liegen.

Wir zeigen, wie lokal ausgeführte LLMs eine datenschutzkonforme Alternative bieten und wie man Unternehmensprozesse mit KI deutlich verbessern kann. Durch den Einsatz solcher Modelle lassen sich leistungsstarke KI-Funktionen nutzen, ohne personenbezogene oder vertrauliche Daten in die Cloud zu übertragen. Der Vorteil: Man kann beliebig unternehmens-interne Daten wie auch Daten von Kundinnen und Kunden verarbeiten.

Wir zeigen anhand konkreter Beispiele, wie Open-Source-Modelle wie LLaMA, Mistral, Gemma, etc. lokal genutzt werden und welche Hardware dafür notwendig ist.
Außerdem zeigen wir, wie man Retrieval Augmented Generation (RAG) nutzt, um Informationen in der KI zu verarbeiten, die dem Modell unbekannt sind, wie sensible unternehmens-interne Informationen oder Kundenanfragen.

Veranstalter:

Veranstalter sind der aitiRaum e.V. und das Digitale Zentrum Schwaben (DZ.S) 

 

Anmeldung: 

Eine Anmeldung im Vorfeld ist unbedingt erforderlich. 

Die Teilnahme ist kostenfrei.

Bei Interesse an einer Mitgliedschaft in unserem Netzwerk, freuen wir uns auf die Kontaktaufnahme (info@aitiraum.de, Tel. 0821/450433-0) oder eine Onlineanmeldung.

Wir freuen uns, wenn du dabei bist!