Termen kunnen buzzwoorden zijn zonder dat er overeenstemming bestaat over wat ze betekenen. ‘Open-source AI’ is zo’n term. Gelukkig bestaat er al sinds 1998 een organisatie die optreedt als arbiter als het gaat om wat telt als open-source, het Open Source Iniatiative (OSI). Onderzoekers, beleidsmakers en vertegenwoordigers van grote techbedrijven zoals Meta, Google en Amazon hebben vanuit het OSI een definitie opgesteld met duidelijke criteria voor wat als open-source AI kan worden beschouwd.

Het is belangrijk dat AI open-source is omdat dan de onderliggende algoritmes, data en modellen publiekelijk toegankelijk zijn voor inspectie. Transparantie bevordert vertrouwen en vermindert de kans op fouten (zoals verborgen vooroordelen), het zorgt er ook voor dat onderzoekers, ontwikkelaars en bedrijven makkelijker samen kunnen werken. Vooral het gebrek aan transparantie rond trainingsdata is controversieel onderwerp. Bedrijven zijn daar niet happig op, en soms bemoeilijken praktische bezwaren zoals auteursrecht en eigendom van data openheid.

De definitie van het OSI is:

“an open-source AI system can be used for any purpose without the need to secure permission, and researchers should be able to inspect its components and study how the system works. It should also be possible to modify the system for any purpose—including to change its output—and to share it with others to use, with or without modifications, for any purpose. In addition, the standard attempts to define a level of transparency for a given model’s training data, source code, and weights” (overgenomen van MIT Technology review).

Volgens Technology Review probeert deze definitie een balans te vinden tussen ideologische zuiverheid en praktische handhaafbaarheid, met als doel een standaard te creëren die breed kan worden aangenomen zonder onrealistische verwachtingen te stellen. Het OSI zal een lijst opstellen van modellen die aan deze standaard voldoen. Naar verwachting zijn dat de kleinere modellen, zoals Pythia van Eleuther en OLMo van Ai2. Desgevraagd geeft ChatGPT netjes toe niet aan de voorwaarden te voldoen.

Beeld gegeneerd met AI (Leonardo).