LocalAI ist hervorragend für Einsteiger. Es unterstützt eine Model Library, Sprach- und Bilderkennung, Bildgenerierung, Text to Speech, Function Calling u.v.m. Unter Linux kannst du es einfach mit dem folgenden Befehl installieren.
curl https://localai.io/install.sh | sh