Maintenant que le Hub 4 a été publié, il est temps de présenter le système d’évaluation Nextcloud Ethical AI.
Les risques liés à l’intelligence artificielle sont de plus en plus nombreux et, en tant qu’éditeur de logiciels transparent, nous avons la responsabilité d’intervenir et de protéger nos utilisateurs.
Le domaine de l’IA évolue rapidement et bon nombre des nouvelles capacités sont confrontées à des défis éthiques, voire juridiques.
Par exemple, il faut faire face à des problèmes :
Confidentialité et sécurité des données des utilisateurs
Discrimination et préjugés
Consommation d’énergie
En particulier avec les technologies d’IA basées sur les réseaux neuronaux, la simple disponibilité d’un code source ouvert ne suffit plus pour affirmer que l’on contrôle ses données ou que le logiciel est sûr ou éthique. L’ensemble des données et le logiciel utilisés pour la formation, ainsi que la disponibilité du modèle final sont autant de facteurs qui déterminent le degré de liberté et de contrôle dont dispose l’utilisateur.
Normes éthiques en matière d’IA
Jusqu’à Hub 3, nous avons réussi à offrir des fonctionnalités telles que les ressources connexes, les fichiers recommandés, notre boîte de réception prioritaire et même la reconnaissance des visages et des objets sans dépendre de systèmes propriétaires ou de serveurs tiers.
Cependant, s’il existe une vaste communauté qui développe des technologies éthiques, sûres et respectueuses de la vie privée, il existe de nombreuses autres technologies pertinentes que les utilisateurs pourraient vouloir utiliser.
Avec Hub 4, nous voulons fournir aux utilisateurs ces technologies de pointe, mais aussi être transparents. Pour certains cas d’utilisation, ChatGPT peut être une solution raisonnable, alors que pour d’autres données, il est primordial d’avoir une solution locale, sur place et ouverte Pour les différencier, nous avons mis au point un classement de l’IA éthique.
Règles d’évaluation éthique de l’IA
Notre système d’évaluation éthique de l’IA est conçue pour donner un aperçu rapide des implications éthiques d’une intégration particulière de l’IA dans Nextcloud. Nous continuons bien entendu à encourager les utilisateurs à examiner de plus près la solution spécifique qu’ils utilisent, mais nous espérons ainsi simplifier le choix pour la majorité de nos utilisateurs et de nos clients.
L’évaluation comporte quatre niveaux :
Rouge 🔴
Orange 🟠
Jaune 🟡
Vert 🟢
Il est basé sur les points obtenus à partir de ces facteurs :
✅
Le logiciel (pour les inférences et la formation) est-il open source ?
✅
Le modèle formé est-il librement disponible pour l’auto-hébergement ?
✅
Les données de formation sont-elles disponibles et utilisables gratuitement ?
Si tous ces points sont remplis, nous lui attribuons une étiquette verte 🟢. Si aucune condition n’est remplie, nous attribuons une étiquette rouge 🔴. Si 1 condition est remplie, une étiquette orange 🟠 et si 2 conditions sont remplies, une étiquette jaune 🟡.
Nous ajoutons une note supplémentaire à l’évaluation : la partialité. Comme il n’est pas possible de prouver qu’il n’y a pas de biais, nous signalons simplement si, lors de notre dernière vérification, des biais majeurs (comme la discrimination fondée sur la race ou le sexe pour une technologie de reconnaissance faciale, par exemple) ont été découverts dans l’ensemble de données ou dans l’expression du modèle.
Il existe bien sûr d’autres considérations éthiques concernant l’IA. Les ensembles de données utilisés posent des problèmes juridiques (en particulier, les droits d’auteur) et la consommation d’énergie des réseaux neuronaux profonds est très préoccupante. Cependant, ces préoccupations sont malheureusement extrêmement difficiles à quantifier de manière objective et, bien que nous ayons l’intention d’essayer d’avertir les utilisateurs de tout problème non résolu, nous ne pouvons pas (encore) les inclure dans notre évaluation.
C’est pourquoi nous recommandons aux utilisateurs d’étudier eux-mêmes les conséquences de l’utilisation de l’IA pour leur cas personnel en utilisant le le système d’évaluation Nextcloud Ethical AI.
Nextcloud Hub 9 vous permet de rester connecté. Découvrez de nouvelles fonctionnalités de fédération, l'automatisation des flux de travail, une refonte du design et bien plus encore dans votre plateforme de collaboration open-source préférée !
Nous vous présentons une mise à jour majeure de l'assistant Nextcloud IA, ainsi que de nouvelles informations sur notre collaboration avec plusieurs grands fournisseurs d'hébergement tels que IONOS et OVHcloud pour vous proposer des options d'IA en tant que service !
Bechtle et Nextcloud ont annoncé aujourd'hui une plateforme de collaboration entièrement administrée pour le secteur public, qui ne nécessite pas d'appel d'offres et peut être déployée immédiatement.
Découvrez comment passer de ownCloud à Nextcloud. Notre outil d'aide à la migration fournit des informations sur le processus de migration et vous aide à effectuer la transition en douceur.
Au cours de la dernière année, l'IA est devenue un sujet à la mode. Il y a de l'engouement, mais aussi du fondement. Il y a du positif et du négatif. Nous voulons vous offrir le positif, pas le négatif, et ignorer le battage médiatique ! […]
Welcome the new sponsor of Nextcloud Enterprise Day 2024 — OVHcloud. A pioneer of the European cloud service industry, OVHcloud is committed to open source standards and provides the means to reach true digital sovereignty for businesses and public sector globally.
Announcing Nextcloud Enterprise Day speaker: Felix Gebauer from Schleswig-Holstein German state's administration. Join us in Frankfurt on November 6 2024!
Nous enregistrons certains cookies pour compter les visiteurs et faciliter l'utilisation du site. Ces données ne quittent pas notre serveur et ne sont pas destinées à vous suivre personnellement ! Consultez notre politique de confidentialité pour plus d'informations Personnaliser
Les cookies utilisés pour enregistrer les données saisies dans les formulaires, telles que le nom, l'adresse électronique, le numéro de téléphone et la langue préférée.
nc_form_fields
Mémorise les données saisies dans les formulaires pour une prochaine visite (nom, adresse électronique, numéro de téléphone et langue préférée).
Les cookies statistiques collectent des informations de manière anonyme et nous aident à comprendre comment nos visiteurs utilisent notre site web. Nous utilisons la solution open source de mesure de statistiques web Matomo
Matomo
_pk_ses*: Compte la première visite de l'utilisateur
_pk_id*: Aide à ne pas compter deux fois les visites.
mtm_cookie_consent: Se souvient que l'utilisateur a donné son accord pour le stockage et l'utilisation de cookies.
_pk_ses*: 30 minutes
_pk_id*: 28 jours
mtm_cookie_consent: 30 jours