Viele denken bei KI und Künstlicher Intelligenz immer an die Großen, wie ChatGPT oder Google Gemini usw.. Doch es gibt sowohl diese Alternativen als auch die Möglichkeit KI lokal auf dem eigenen Computer zu nutzen.
Sind die Alternativen gleichwertig? Sagen wir so: KI macht generell viele Fehler, für die meisten Anwendungen sind auch diese Alternativen brauchbar. Meine Sichtweise ist dabei etwas von Linux geprägt.
Hier stelle ich kurz zwei Onlinealternativen vor:
1. Lumo von der Proton AG (Schweiz)
Von den Macher:innen von Proton Mail.
In dem Vergleich zu den “bösen” Großen stellt sich Lumo so vor:
Proton wurde 2014 in der Schweiz gegründet, als ein Team von Wissenschaftlern am CERN (der Europäischen Organisation für Kernforschung) beschloss, ein besseres Internet zu schaffen, in dem Datenschutz Standard ist.
Quelle: https://proton.me/de/about
Adresse: https://lumo.proton.me/
Kosten für Abo mindestens: 9,99 € /Monat
App verfügbar: Android, iPhone
API verfügbar: ja
Meine Erfahrung: Es funktioniert überwiegend gut. Ich hatte manchmal eine kurze Unterbrechung und musste noch mal abschicken. Aber das kenne ich von jeder getestete KI. Lumo kann keine Bilder generieren. Und versteht auch keine Bilder als Input.
2. Le Chat/Mistral AI SAS (Frankreich)
Nach meinem Eindruck ist Le Chat etwas besser als Lumo und unterstützt sowohl die Bildinterpretation als auch -generierung. Wobei das mit den Bildern manchmal auch schief geht. Aber ab und zu konnte mir Le Chat auf Anhieb genau das liefern, was ich wollte.
Adresse: https://chat.mistral.ai/chat
Kosten für Abo mindestens: 9,99 € /Monat
App verfügbar: Android, iPhone
API verfügbar: ja
Hier ein CLI-Tool für die Kommandozeile (nur mit API-Key)
Deutschland? Fehlanzeige!
Trotz längerer Recherche habe ich keine KI-Unternehmen gefunden, die in Deutschland öffentliche Chatbots anbieten. Ich habe Lumo und Le Chat relativ schnell gefunden vor Monaten. Also es kann sein, dass es da doch eine gibt, aber offenbar so wenig bekannt, dass niemand darüber schreibt. Das ist schon sehr peinlich. Ich habe da nur Neuroflash gefunden, aber da gehts nur um Kundendialoge.
KI für zuhause /Offline
Wer ganz ohne Internet und nur auf dem heimischen PC mit KI wurscheln will kann das auch. Ich habe da jetzt nicht so viel probiert, da mein eigener PC noch aus den Jahren vor KI stammt und daher etwas langsam ist für den Zweck. Aber selbst er kann es bei kleineren Modellen betreiben. Ich nenne daher nur das, was ich selber getestet habe:
Ich muss sagen, die empfohlene Installationsart dort mag ich nicht. Also ein Skript mit Curl runterladen und gleich mit Rootrechten ausführen. Und das Skript, was ich damals genutzt hatte, bot keine Deinstallation. Daher ist vielleicht besser das mit Homebrew zu installieren.
Ollama ermöglicht es, verschiedene Modelle zu installieren und zu benutzten. Die laufen dann also nicht im Internet. Ich denke, das sollte die bevorzugte Methode sein, wegen Datenschutz, Privatsphäre und allen möglichen anderen Dingen (Klimaschutz,…). Wobei es dann auch noch darauf ankommt, wie die Modelle generiert wurden. Also Arbeitsbedingungen, welche Daten fließen ein? Wie ist es mit Bias? Aber generell kann Mensch Modelle ja auch selber generieren mit entsprechender Hardware.
Aber zB stelle ich mir vor, dass solche lokalen KIs ideal sind für große Archive digitalisierter Daten, die es dann ermöglichen neben Bild-/Schrifterkennung auch nach Kontexten zu suchen und Forscher:innen auf etwas hinzuweisen, was bisher unbekannt war. Und wo klassische Suchmaschinen bisher scheiterten.
Linux-Software
Bisher war ja die ganze KI-Sache so neu, dass Linux-Distibutionen jahrelang überhaupt keine KI-Software installierbar hatten. Auf Linux-Mint finde ich jetzt zB nur als Flathub-Pakete:
Sicherheitshinweise für KIs
Generell wäre meine Empfehlung bei der Nutzung von KI, besonders wenn es Online im Internet erfolgt:
Anonymisiert eure Daten! Ihr müsst davon ausgehen, dass eure Daten ausgewertet werden und in die Händer von Unbefugten geraten. Darum meine dringende Empfehlung eher EU oder Schweiz als Standort der Maschinen zu nutzen. Aber selbst mit entsprechender Gesetzgebung sind Lücken möglich.
Spielerischer Umgang! Da LLMs Fehler machen sehe ich ihre Stärke im Chat und als Ideengeber. Oder auch um eine Vorlage zu erstellen, die man dann weiter bearbeitet. Auf keinen Fall sollte man den Output 1:1 übernehmen, außer man ist glücklich mit einem produzierten Bild. Insbesondere sollte man alles stark hinterfragen, was irgendwie gefährlich werden könnte, also zB Tips für Reparaturen rund um Strom oder Heimwerken (sofern irgendwas tragend sein soll). D.h. vielleicht den Tip den das LLM dir gibt gleich noch mal googlen und bei mehreren Quellen bestätigen lassen. Und auch nicht als Hausärztin-Ersatz benutzen bei ernsthaften Symptomen usw. . Also das ganze eher wie ein Spiel betrachten, wenn es nicht-beruflich eingesetzt wird. Im Job und Unternehmen braucht es denke ich Guidelines um festzulegen wann und wofür und wie KI genutzt werden soll. Ich denke jede Art Organisation sollte sich dazu Gedanken machen, weil irgend wer wird auf jeden Fall KI nutzen. Und dann braucht es Regeln, damit nichts schief geht. Bzw. damit auch klar ist, wer Verantwortung trägt, wenn etwas schief geht und zb sämtliche Kundendaten bei Grok landen und darüber ggf. bei amerikanischen Behörden und die Kunden Hausbesuche bekommen. Sowas will man nicht, ist aber möglich. Auch wenn ihr selber noch mal in die USA reisen wollt, überlegt euch, was ihr in das Internet hochladet!