L’étude approfondie du régime juridique des DIA dans le droit du travail, à la lumière du droit de l’UE et du droit suisse, révèle quelques points clés relatifs à l’intégration et la gestion de l’IA dans la pratique des entreprises.
Premièrement, l’employeur doit bien identifier et qualifier les processus décisionnels automatisés. Selon le degré d’intervention humaine, et selon l’impact sur l’employée, ces processus doivent être qualifiés de DIA. Par ailleurs, en raison de la jurisprudence récente de la CJUE dans l’affaire SCHUFA, la notion de décision sera peut-être interprétée largement et comprendra également les évaluations effectuées par l’IA lorsqu’elles sont déterminantes pour une décision subséquente. A notre avis, cette jurisprudence ne devrait pas être reprise par les tribunaux suisses, ce qui permet à l’employeur non soumis au RGPD d’éviter de se conformer au régime de la DIA s’il ne procède qu’à des évaluations automatisées.
Deuxièmement, l’employeur doit informer les employées de l’existence de la DIA, de leurs droits et de la logique sous-jacente. L’employeur doit également leur accorder, sur demande, le droit d’être entendu par un humain. Enfin, il peut devoir procéder à une analyse d’impact avant de mettre en œuvre des DIA. Ces exigences reflètent une préoccupation croissante pour la transparence et la responsabilité de l’IA.
Troisièmement, la personne compétente au sein des ressources humaines peut être condamnée pénalement si elle viole intentionnellement son devoir d'informer de l’existence d’une DIA et si l’employée porte plainte. En outre, la supérieure hiérarchique peut également voir sa responsabilité pénale engagée si elle omet de prévenir une infraction commise par l’employée subordonnée.
L’utilisation de l’IA et des DIA dans le monde du travail pourrait continuer à croître. Les employeurs doivent non seulement se conformer aux réglementations actuelles, mais aussi rester vigilants quant aux évolutions législatives futures, tant au sein de l’UE qu’en Suisse, notamment en ce qui concerne la transparence et l’explicabilité des décisions prises par l’IA.
En pratique, l’employeur peut avoir un intérêt à éviter tout processus exclusivement automatisé afin de ne pas devoir respecter le régime juridique de la DIA. Pour ce faire, il doit impliquer une employée compétente qui puisse revoir toutes les propositions de décisions suggérées par l’IA (human in the loop). La vérification humaine lui permet aussi de minimiser les risques d’une IA non supervisée, afin qu’humain et IA forment une collaboration efficace.
