Künstliche Intelligenz – von Genossenschaften für Genossenschaften
Large Language Models gemeinschaftlich betreiben und nutzen
26.03.2024 – ChatGPT und Co. haben künstliche Intelligenz (KI) und Large Language Models (LLMs) massentauglich gemacht. Jedoch konzentriert sich die Marktmacht wieder einmal bei einigen wenigen Tech-Giganten. Welchen Beitrag können Genossenschaften zu einem demokratischeren Umgang mit generativer KI leisten?
Kai Lehmann von der Syndicats eG sprach im Community-Call über drei Anwendungsbereiche, für die er großes genossenschaftliches Potenzial sieht und für die er und sein Team bereits lokal betriebene Lösungen erproben.
Felix Weth stellte uns außerdem CosyAI vor, einen Zusammenschluss von Interessensvertreter:innen, die eine genossenschaftlich verwaltete KI-Plattform verwirklichen wollen.
Kai Lehmann
»Die Verwendung von lokalen und offenen Large Language Models ermöglicht den Brückenschlag zwischen KI-Innovation und Datensouveränität in Unternehmen.«
Kai Lehmann Bei YouTube ansehen
Datenschutzfreundliche KI dank lokaler LLMs
2023 drehte sich alles um generative KI. ChatGPT wurde öffentlich zugänglich gemacht und Einzelpersonen wie Unternehmen erprobten die Potenziale des Tools für alle erdenklichen Anwendungsfälle.
Zur anfänglichen Euphorie gesellten sich jedoch schnell Datenschutzbedenken, nachdem Firmengeheimnisse durch unachtsame Mitarbeitende in die Trainingsdatensätze von ChatGPT gelangten. Dies wiederholte sich mit der Einführung der sogenannten Custom GPTs, für bestimmte Zwecke zugeschnittene ChatGPT-Varianten.
Glücklicherweise nahmen Open-Source-KIs zur gleichen Zeit Fahrt auf, nachdem Meta den Quell-Code seines Sprachmodells LlaMa offengelegt hatte. Mit Mistral 7B ist ein Open-Source-Modell derzeit sogar Spitzenreiter der Klasse der 7-Milliarden-Parameter-LLMs.
Währenddessen vereinfachen Ausführungsumgebungen wie llama.cpp die lokale Nutzung von Sprachmodellen auf dem Heimcomputer. Wer über ausreichend leistungsfähige Hardware verfügt, ist somit nicht mehr auf externe Dienstleister angewiesen.
Inzwischen haben sich inbesondere drei Datenkategorien herauskristallisiert, für deren Verarbeitung lokal betriebene LLMs von besonderem Wert sind:
- Internes Firmenwissen, z. B. für einen Chatbot, der Mitarbeitenden Fragen zu Unternehmensabläufen beantwortet.
- Nicht öffentlich zugänglicher Code, z. B. für ein Code-Vervollständigungs-Tool à la GitHub Copilot.
- Vertrauliche personenbezogene Daten, z. B. für eine KI-gestützte Therapie-Software.
Mit CloudlessGPT hat das Syndicats-Team bereits eine Antwort auf die Frage nach einer datenschutzfreundlichen ChatGPT-Alternative geliefert. Das LLM läuft auf dem eigenen Unternehmensserver, ebenso wie ein selbstbetriebener Code-Pilot, der Code-Schnipsel, Testklassen und mehr auf Basis interner Code-Basen generiert.
Noch ist der Betrieb solcher KI-Modelle mit Hardware-Kosten von mehreren tausend Euro verbunden. Da jedoch bereits die ersten lokalen Mini-LLMs auf Smartphones laufen, könnte sich das schon bald ändern.
Felix Weth
»Richtig genutzt bietet KI eine Chance für Genossenschaften, breitere Teile der Bevölkerung zu erreichen und den digitalen Wandel mitzugestalten.«
Felix Weth Bei YouTube ansehen
CosyAI: KI in genossenschaftlichem Eigentum
Auch wenn Open-Source-Modelle eine nicht zu unterschätzende Konkurrenz zu kommerziellen KI-Tools darstellen, geben derzeit Tech-Giganten wie Google, Microsoft und Amazon den Ton an. Deren Umgang mit künstlicher Intelligenz ist jedoch von zahlreichen Skandalen und falschen Versprechungen geprägt, weswegen ihnen die meisten Nutzer:innen nur wenig Vertrauen entgegenbringen können.
An dieser Stelle möchte CosyAI, eine Koalition aus Genossenschaftler:innen, Platform-Coops und Entwicklungsagenturen, ansetzen und eine genossenschaftliche Antwort auf das Thema KI liefern. Zentral ist dabei die Frage, ob KI eine Möglichkeit sein kann, das genossenschaftliche Konzept weiter in die Gesellschaft zu tragen.
Das Vorhaben soll in drei großen Schritten verwirklicht werden:
- Aufbau eines Bündnisses verschiedener Interessensvertreter:innen
- Gründung einer Europäischen Genossenschaft (SCE)
- Gemeinsame Entwicklung und Bereitstellung von KI-Technologien und -Dienstleistungen
Um in Zukunft gemeinschaftlich verwaltete KI-Tools anbieten zu können, hat CosyAI bereits erste Demo-Anwendungen auf Basis bestehender Sprachmodelle entwickelt, die speziell auf die Bedürfnisse von Genossenschaften zugeschnitten sind.
Durch Data Pooling und den Aufbau spezialisierter Datensätze möchte CosyAI zudem Open-Source-LLMs für besondere Anwendungsfälle trainieren, etwa mithilfe von Wissen über lokale Anbaubedingungen in der Landwirtschaft.
Schließlich soll auch ein genossenschaftliches Rechenzentrum für lokale LLMs entstehen, das den Mitgliedern die Vorteile einer Cloud-Lösung mit den Privatsphäre-Aspekten selbstbetriebener Hardware zugutekommen lassen soll.
Durch die Spezialisierung der Trainingsdaten wird es so hoffentlich möglich sein, bessere Ergebnisse bei geringerem Energieverbrauch zu liefern, und die Mitglieder gleichzeitig zu Miteigentümer:innen der eigenen künstlichen Intelligenz zu machen.
Kein Update mehr verpassen!
Abonniere jetzt unseren Newsletter und bleib informiert über politische Entwicklungen, erhalte Einladungen zu Community-Events und entdecke Praxistools für Genossenschaften.