Ethische code voor kunstmatige intelligentie

Kunstmatige intelligentie is een wereldwijde motor van vooruitgang en groei. We zien deze technologie dan ook op steeds meer plaatsen. In de beveiliging, in de gezondheidszorg, bij huishoudelijke apparaten, computers, robots, videogames, etc. Onze maatschappij raakt ervan doordrongen. Met onmetelijke mogelijkheden, maar ook risico’s. Hoe gaan we om met deze techniek en de rol die het speelt in onze levens? En hoe houden we de touwtjes in handen?

De publieke opinie over AI bestaat grotendeels nog uit twijfels of science-fictionachtige visies. In dergelijke visies overtreft AI de menselijke intelligentie, kan het niet worden gecontroleerd en kost het mensen uiteindelijk hun baan of nog meer. De visie van Bosch is duidelijk anders. Bosch heeft daarom recentelijk een standpunt ingenomen in het publieke debat over artificiële intelligentie en heeft daarvoor leidende principes opgesteld voor zijn medewerkers:

De CEO van Bosch, Volkmar Denner, zegt hierover: “Ons doel is dat mensen vertrouwen hebben in onze AI-producten”. Daarom heeft Bosch ethische ‘rode lijnen’ opgesteld voor het gebruik van AI in al zijn intelligente producten. De ethische code is gebaseerd op de stelregel dat mensen de ultieme arbiter moeten zijn bij alle AI-beslissingen. Denner: “Kunstmatige intelligentie moet mensen dienen, niet andersom. Onze ethische code voor AI biedt onze medewerkers duidelijke richtlijnen met betrekking tot de ontwikkeling van intelligente producten.”

AI is voor Bosch van vitaal belang, en er wordt hard gewerkt aan de ontwikkeling van nieuwe AI-technologieën. Eén toepassingsveld is geautomatiseerd rijden, waarbij, door het gebruik van AI, het aantal ongevallen moet gaan afnemen. Daarnaast kan Bosch medische diagnoses vergemakkelijken door inzet van AI, en mensen en gebouwen veiliger houden.

Het streven van Bosch is dat In 2025 alle Bosch-oplossingen AI bevatten, die veilig, robuust en verklaarbaar moeten zijn. Vertrouwen is daarbij het sleutelwoord. "Want", zegt Michael Bolle, CDT/CTO van Bosch, "als AI een zwarte doos zou zijn, zou niemand het vertrouwen. En in een geconnecteerde wereld is vertrouwen nu eenmaal essentieel" De ethische code van Bosch is gebaseerd op het principe “technologie voor het leven”. Daarbij wordt innovatie altijd gecombineerd met onze maatschappelijke verantwoordelijkheid.

In de komende twee jaar gaat Bosch 20.000 van haar medewerkers trainen in het gebruik van AI. De opgestelde ethische code, voor het verantwoorde gebruik van deze technologie, maakt deel uit van dit trainingsprogramma.

Ruim voor de invoering van bindende EU-normen heeft Bosch al besloten om zich actief bezig te houden met de ethische vragen die het gebruik van deze technologie stelt. De morele basis voor dit proces wordt gevormd door de waarden die zijn vastgelegd in de universele verklaring van de rechten van de mens.

Met de ethische code bepaalt Bosch dat kunstmatige intelligentie geen beslissingen mag nemen over mensen zonder dat dit proces onderhevig is aan een of andere vorm van menselijk toezicht. Kunstmatige intelligentie moet juist mensen dienen als hulpmiddel.

Er zijn drie mogelijke benaderingen van de rol van AI in besluitvorming:

1. In alle op AI-gebaseerde producten dient de mens de controle te houden over de technologie. In de eerste benadering (human-in-command) is kunstmatige intelligentie puur een hulpmiddel – bijvoorbeeld in besluitvormingsondersteunende toepassingen, waar AI mensen kan helpen bij het classificeren van objecten of organismen. De mens beslist te allen tijde wanneer en hoe zij de gepresenteerde resultaten en aanbevelingen gebruikt. Bijvoorbeeld, camera's met anomaliedetectie hebben afwijkend gedrag geconstateerd, waarbij de operator zelf kan bepalen hoe om te gaan met deze ongewone situatie.

2. In de tweede benadering (human-in-the-loop) neemt een intelligent systeem autonoom besluiten, waarbij de mens op elk ogenblik kan ingrijpen en de genomen beslissing kan beïnvloeden of veranderen. Denk hierbij aan geautomatiseerd rijden, waarbij de menselijke bestuurder direct kan ingrijpen in de beslissingen van bijvoorbeeld een parkeerhulpsysteem.

3. De derde benadering (human-on-the-loop) betreft intelligente technologie zoals noodremsystemen of alarmeringssystemen. Hier definiëren technici bepaalde parameters tijdens het ontwikkelingsproces. Er is geen ruimte voor menselijke interventie in het besluitvormingsproces zelf. De parameters geven de basis waarop AI beslist of het systeem wel of niet geactiveerd moet worden. Technici testen achteraf of het systeem binnen de gedefinieerde parameters is gebleven en indien nodig kunnen deze parameters worden aangepast.

Bosch hoopt dat zijn ethische code voor AI bijdraagt aan een openbaar debat over kunstmatige intelligentie. “Kunstmatige intelligentie verandert elk aspect van ons leven,” zegt Volkmar Denner. “Daarom is een debat van vitaal belang. Het zal meer vergen dan alleen technische kennis om vertrouwen te scheppen in intelligente systemen – er is ook behoefte aan een nauwe dialoog tussen beleidsmakers, de wetenschappelijke gemeenschap en het grote publiek." Daarom heeft Bosch zich aangesloten bij een deskundigengroep inzake kunstmatige intelligentie, een orgaan dat door de Europese Commissie is aangewezen om kwesties als de ethische dimensie van AI te onderzoeken. In een wereldwijd netwerk dat momenteel zeven locaties omvat, en in samenwerking met de Universiteit van Amsterdam en de Carnegie Mellon Universiteit (Pittsburgh, VS), werkt Bosch aan de ontwikkeling van AI-toepassingen, die

veiliger en betrouwbaarder zijn. Als mede-oprichter van de Cyber Valley-onderzoeksalliantie in Baden-Württemberg investeert Bosch 100 miljoen euro in de bouw van een AI-campus, waar 700 van haar eigen experts binnenkort naast externe onderzoekers en startende medewerkers zullen werken.

Ten slotte wil het Digital Trust Forum, een door Bosch opgerichte commissie, een nauwe dialoog bevorderen tussen experts van toonaangevende internationale organisaties, met als doel ‘het internet der dingen’ veilig en betrouwbaar te maken.