Das Training großer Sprachmodelle (LLMs) in großem Maßstab ist rechnerisch nicht trivial. Die Wahl der Programmiersprache führt zu Einschränkungen, selbst bei Verwendung sehr gut optimierter Bibliotheken (z.B. Pytorch). In dieser Arbeit wird sich der Student darauf konzentrieren, eine vortrainierte LLM über einen Wissensgraphen zu verwenden, um fehlende Links vorherzusagen. Zu diesem Zweck wird der Student eng an llm.c arbeiten.
Einzelheiten über Wissensgraphen und die Vorhersage fehlender Verknüpfungen finden Sie unter Lernen kontinuierlicher Darstellungen für Wissensgraphen.
