Mit dem Pilotprojekt „LLMoin“ sammelt die Hansestadt Hamburg praktische Erfahrungen mit einem eigenen Large Language Model (LLM), das auf Künstlicher Intelligenz basiert. Ziel ist es, Erkenntnisse für eine mittelfristige LLM-Strategie zu gewinnen.
Seit der Veröffentlichung von ChatGPT sind große Sprachmodelle, sogenannte Large Language Models (LLMs), in aller Munde. Sie können KI-basiert lange Texte in Sekundenschnelle zusammenfassen, unterstützen bei der Recherche und bei der Texterstellung. Das Pilotprojekt „LLMoin“ soll nach Angaben der Stadt Hamburg zeigen, wie Large Language Models innerhalb der Hamburger öffentlichen Verwaltung genutzt werden können und welche Funktionen die Mitarbeitenden tatsächlich annehmen und benötigen. Die Stadt Hamburg möchte außerdem erproben, welche technischen und organisatorischen Voraussetzungen nötig sind, damit die Technologie zukünftig einer großen Anzahl an Mitarbeitenden zur Verfügung gestellt werden kann.
„Mit LLMoin kommen wir in der Schlüsseltechnologie der Large Language Models von der Theorie in die Praxis und sammeln frühzeitig wertvolle Erfahrungen zur Anwendbarkeit in der Verwaltung. Was wir im Rahmen dieses Projektes lernen, wird uns helfen unser zukünftiges Handeln in diesem Feld an den tatsächlichen Bedürfnissen der Mitarbeiterinnen und Mitarbeiter auszurichten“, sagt Christian Pfromm, Chief Digital Officer der Stadt Hamburg.
Das Pilotprojekt „LLMoin“ ist ein integrierter Textassistent mit vier Funktionen für die verwaltungsinterne Anwendung, wie die Stadtverwaltung erläutert. Es basiert auf dem in Deutschland entwickelten und gehosteten Sprachmodell Luminous von AlephAlpha. Die Frontend- und Datenverarbeitung wurde eigens für Hamburg entwickelt. Den Testgruppen stehen die Funktionen Zusammenfassung, Recherche-Assistent, Textgenerierung der Expertenmodus zur Verfügung. Beim Expertenmodus können die Testerinnen und Tester nach dem Vorbild von Chat GPT ohne weitere Einstellungsmöglichkeiten frei über selbst definierte „Prompts“ (Eingaben) mit dem System interagieren.
Ergänzt wird „LLMoin“ durch weitere Aktivitäten rund um die Erschließung der LLM-Technologie. Essenziell ist beispielsweise, dass Mitarbeitende generell an die Interaktion mit den Modellen (Prompting) herangeführt werden. Zu diesem Zweck wurde unter anderem ein „Prompt-a-thon“ in Kooperation mit der Universität Hamburg im Rahmen einer verwaltungsinternen Tagung erprobt. Bei diesem Format konnten Mitarbeitende nach entsprechender Einführung zuvor definierte Problemstellungen mithilfe von ChatGPT lösen.
Das Vorhaben wird als innovativer KI-Pilot im Rahmen des InnoTecHH Fonds umgesetzt. Die Senatskanzlei unterstützt Hamburger Behörden dabei, innovative Ideen für den Einsatz von KI und anderen neuen Technologien zu entwickeln und agil zu erproben.
red.