Kern van het Bosco-arrest
- Het Algoritme (BOSCO): BOSCO is een softwareprogramma dat door de Spaanse overheid werd gebruikt om te bepalen welke burgers recht hadden op een gesubsidieerd energietarief (de bono social eléctrico).
- De Juridische Strijd: De stichting Civio klaagde de overheid aan omdat het algoritme aanvragen van kwetsbare burgers afwees zonder dat de criteria of de broncode van het programma openbaar waren. De overheid weigerde deze informatie te delen op grond van intellectueel eigendomsrecht en veiligheidsredenen.
- De Uitspraak: Het Spaanse Hooggerechtshof oordeelde dat algoritmen die door de publieke administratie worden gebruikt voor besluitvorming transparant moeten zijn. Het hof stelde dat de broncode openbaar gemaakt moet worden zodat burgers en rechters kunnen controleren of het algoritme voldoet aan de wet en geen discriminerende criteria hanteert.
Citaat uit de uitspraak
“Het recht op toegang tot openbare informatie krijgt bijzondere betekenis, gezien de risico’s die het gebruik van nieuwe technologieën met zich meebrengt bij de uitoefening van overheidsbevoegdheden of de verlening van openbare diensten, zoals het gebruik van geautomatiseerde besluitvormingssystemen in de overheidspraktijk, vooral wanneer deze betrekking hebben op de erkenning van sociale rechten. In dergelijke gevallen brengt dit transparantie-eisen met zich mee voor de informatische processen die bij deze handelingen worden gevolgd, met als doel burgers de noodzakelijke informatie te verschaffen om deze te begrijpen en inzicht te krijgen in hun werking. Dit kan in sommige gevallen toegang tot de broncode vereisen, om te kunnen nagaan of het algoritmische systeem in overeenstemming is met de toepasselijke wettelijke voorschriften.” Bron (vertaald).
In Spanje is het BOSCO‑systeem voor sociale en economische beslissingen als hoog‑risico geclassificeerd, waarbij de rechter transparantie en uitlegbaarheid expliciet koppelt aan de AI Act‑principes. Bron (vertaald).