Eine europäische Antwort auf große KI-Modelle wie GPT-3, um im internationalen KI-Wettbewerb nicht ins Hintertreffen zu geraten – genau das ist das Ziel des Leuchtturmprojekts „Open GPT-X“, das wir gemeinsam mit unseren neun Projektpartnern gewonnen haben. Wir beantworten in diesem Blogbeitrag alle wichtigen Fragen rund um die Initiative und ordnen deren Bedeutung im internationalen Kontext ein.  

Gemeinsam ans Ziel 

Zusammen mit unseren Projektpartnern Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme & Fraunhofer-Institut für Integrierte Schaltungen, 1&1 IONOS SE, Forschungszentrum Jülich GmbH, Technische Universität Dresden, Deutsches Forschungszentrum für Künstliche Intelligenz GmbH, Aleph Alpha GmbH, Control Expert GmbH, Westdeutscher Rundfunk und KI Bundesverband e.V. bewarben wir uns auf den Förderaufruf „Innovative und praxisnahe Anwendungen und Datenräume im digitalen Ökosystem Gaia-X“ – und wurden unter einer Vielzahl von Konsortien, die sich beworben hatten, ausgewählt. Assoziierte Partner sind: BMW, Institut der Deutschen Wirtschaft, Aalto University, OPNTEC GmbH, Ströer SE & Co. KGaA, Eclipse Foundation, Covestro Deutschland AG, eco Verband der Internetwirtschaft e.V. (Projekt Service-Meister) und Siemens. Das Projekt, für das das Konsortium jetzt einen Förderantrag stellen darf und das eine Laufzeit von drei Jahren hat, beginnt voraussichtlich am 01.11.2021. 

Gaia-X: Hyperscaler made in Europe 

Das Projekt baut auf die Initiative Gaia-X auf, die vom Bundesministerium für Wirtschaft und Energie ins Leben gerufen wurde. Gaia-X ist dabei als europäische Alternative zu Infrastrukturen wie AWS und Azure zu verstehen. Gefördert vom BMWi sollen Standards für verteilte Hochleistungszentren entwickeln werden. Dies bildet die Grundlage für Unternehmen, die ihre Services so in einer europäischen Cloud entwickeln können – das hat mehrere Vorteile. Zum einen besteht so weniger Abhängigkeit von amerikanischen Anbietern, zum anderen ist es den Unternehmen leichter möglich, ihre Anwendungen zu anderen Providern zu migrieren. Um dieses Ziel zu erreichen, werden bis Ende 2024 Fördermittel in Höhe von insgesamt rund 175 Millionen Euro zur Verfügung gestellt, um 16 Leuchtturmvorhaben zu fördern. 

Open GPT-X: die europäische Antwort auf GPT-3 

Im Projekt „Open GPT-X“ sollen große KI-Sprachmodelle entwickelt werden, die als Advanced Smart Services mit Gaia-X kompatibel sind. Dadurch werden datenbasierte Business-Lösungen möglich, die für praxisnahe Anwendungen in den Bereichen Mobilität, Medien und Finanzen/Versicherung genutzt werden sollen. Die Sprachmodelle orientieren sich unter anderem an GPT-3 (Generative Pretrained Transformer 3), dem Mega-Modell aus den USA. Dieses wurde mit über 175 Milliarden Parametern im August 2020 als das bis dato größte neuronale Netz der Welt vorgestellt, vor wenigen Wochen jedoch vom 10-mal größeren Modell Wu Dao 2.0 aus China übertroffen. Durch Modelle dieser Größenordnung werden Anwendungen der Sprachverarbeitung wie die Beantwortung von Fragen, das Schreiben von Texten oder die Erstellung von Code möglich. „OpenGPT-X“ soll also ein Gaia-X-Knoten für große KI-Sprachmodelle und innovative Sprachapplikations-Services werden. 

Alexander Thamm GmbH baut Datenmanagement und MLOps 

Eine besondere Herausforderung für das Trainieren derartig großer KI-Modelle stellt das Datenmanagement und die Etablierung von stabilen und kontinuierlich Operations-Modellen dar. Hier bringt die Alexander Thamm GmbH ihre Erfahrung aus über 1000 Data- und AI-Projekten in das Konsortium ein und wird leistungsfähige Prozesse und Anwendungen für die Datenhaltung und die Automatisierung der Model-Erstellung implementieren. 

Eine digitale Souveränität für Europa 

 „Open-GPT-X“ ist mehr als ein Projekt, das bahnbrechende Fortschritte in der Sprachverarbeitung ermöglichen wird. Es ist die europäische Antwort auf leistungsstarke Modelle wie GPT-3 aus den USA und Wu Dao 2.0. aus China. Denn Europa muss eine digitale Souveränität aufbauen, um nicht von KI-Supermächten abhängig zu werden und im internationalen Wettbewerb ins Hintertreffen zu geraten. Deshalb freuen wir uns, durch das Förderprojekt gemeinsam mit unseren Projektpartnern einen ersten wichtigen Schritt in diese Richtung zu gehen.  

Auch die Initiative LEAM (Large European AI Models) des KI Bundesverbands, die kürzlich in Brüssel vorgestellt wurde, unterstützen wir durch das Projekt. Denn diese verfolgt ebenfalls das Ziel, Wirtschaft, Forschung und Wissenschaft zu vereinen, um mit genügend Schlagkraft konkurrenzfähige große europäische KI-Modelle entwickeln zu können.