Framework für plattformunabhängige LLM Anwendungen

- Bachelor-/Masterarbeit -


Beschreibung:

Es soll ein Framework für plattformunabhängige LLM Anwendungen konzipiert und entwickelt werden, in dem Anwendungen als Netzwerk von LLM Agenten entworfen werden können und welches als Alternative zu Frameworks wie etwa AutoGen [1] und LangGraph [2] dienen kann. Für Kotlin gibt es bereits einige Multiplattform APIs für verschiedene LLMs [3] [4] [5] [6], die zu diesem Zweck eingesetzt werden könnten. Relevante Protokolle sind Model Context Protocol (MCP) [7], Agent2Agent (A2A) [8] und Agent-User Interaction
Protocol (AG-UI) [9]. Möglichkeiten der Unterstützung für lokal laufende LLMs sollen untersucht werden (z.B. [10] für LLM-Inferenz im Browser).

[1] Qingyun Wu, Gagan Bansal, Jieyu Zhang, Yiran Wu, Beibin Li, Erkang Zhu, Li Jiang, Xiaoyun Zhang, Shaokun Zhang, Jiale Liu, Ahmed Hassan Awadallah, Ryen W White, Doug Burger, Chi Wang, AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation, arXiv:2308.08155v2, https://doi.org/10.48550/arXiv.2308.08155

[2] https://python.langchain.com/docs/langgraph/

[3] https://github.com/aallam/openai-kotlin?tab=readme-ov-file

[4] https://github.com/joreilly/GeminiKMP

[5] https://github.com/Oleur/mistral-ai-kmp?tab=readme-ov-file

[6] https://github.com/JetBrains/koog

[7] https://modelcontextprotocol.io/introduction

[8] https://a2aprotocol.ai/

[9] https://github.com/ag-ui-protocol/ag-ui

[10] https://github.com/mlc-ai/web-llm

Anforderungen/Kenntnisse:
Kotlin, Large Language Models (LLM)

Betreuung:

Prof. Dr. rer. nat. habil. Sven Groppe
Institut für Informationssysteme
Ratzeburger Allee 160 ( Gebäude 64 - 2. OG)
23562 Lübeck
Telefon: 0451 / 3101 5706