Nextcloud lance Assistant 2.0 et développe l’IA en tant que service

Aujourd’hui, nous apportons une mise à jour majeure à l’assistant IA Nextcloud avec Context Chat, Context Write, l’accélération GPU, la possibilité de séparer le serveur Nextcloud & le serveur IA, et BEAUCOUP d’autres choses ! Et pour ceux qui n’ont pas de GPU à 100 000 dollars (vous savez qui vous êtes), nous avons aussi une nouvelle incroyable : nous travaillons avec plusieurs hébergeurs européens de premier plan, dont IONOS, OVHcloud et plusserver, pour proposer des solutions d’IA en tant que service qui respectent votre vie privée et votre souveraineté numérique ! Pour nos utilisateurs et clients américains, il existe déjà plusieurs entreprises qui proposent l’IA en tant que service et certaines que nous soutenons (OpenAI en particulier), tandis que d’autres sont en cours d’élaboration.

Présentation de l’assistant 2.0

Avec une refonte presque complète de l’interface utilisateur ET de la façon dont notre assistant AI fonctionne en arrière-plan, ainsi qu’une tonne de nouvelles fonctionnalités importantes, nous avons décidé que c’était le moment d’appeler cet Assistant 2.0. Passons en revue les nouveautés, mais d’abord un bref résumé de notre situation actuelle !

Nextcloud dispose d’une tonne de fonctionnalités d’IA, certaines importantes et élaborées, d’autres plus basiques. Certains entraînent un réseau neuronal sur vos données, sur votre propre serveur, pour vous offrir une boîte de réception intelligente dans Mail ou des avertissements sur les connexions inattendues dans le cadre de la détection des connexions suspectes. D’autres s’appuient sur un réseau pré-entraîné capable de reconnaître des visages et des objets sur des photos, de générer une transcription de votre appel vidéo ou de modifier du texte. Nous pouvons également générer des images, traduire des textes et des messages tchat, et bien d’autres choses encore. De nombreuses fonctionnalités sont accessibles via l’interface conviviale de l’assistant Nextcloud !

Nombre de ces fonctionnalités peuvent vous aider, vous faire gagner du temps ou améliorer votre productivité. Et le plus important : comme toujours, nous nous efforçons de faire en sorte que tous ces services soient disponibles sur votre propre serveur. Étant donné que même le Congrès américain ne fait pas confiance à ChatGPT ou à Microsoft CoPilot, il y a de bonnes raisons de vouloir contrôler les données envoyées vers et depuis un service d’IA ! Notre système d’évaluation éthique de l’IA vous offre la transparence sur l’IA utilisée pour générer votre texte, votre image ou classer vos photos :

• Est-ce que c’est une solution open source ? Puis-je étudier le fonctionnement du modèle et le ré-entraîner ou l’optimiser en fonction de mes besoins ?
• Le modèle est-il disponible gratuitement ? Puis-je l’utiliser sur mon propre serveur ?
• Les données d’entraînement sont-elles ouvertes et disponibles afin que je puisse les inspecter pour détecter les problèmes et réentraîner ou optimiser le modèle ?

Pour en savoir plus, consultez notre article de blog sur notre approche de l’IA.

Context Chat et Context Write

Et maintenant, explorons les nouveautés : les deux principales nouveautés sont Context Write et Context Chat. Ces deux outils ont de nombreux points communs, puisqu’ils fournissent tous deux des résultats assistés par l’IA, mais ils sont également très différents.

Context Chat, en résumé, c’est la possibilité pour l’assistant de répondre à des questions sur vos données. Vous pouvez poser à l’assistant des questions sur un de vos documents : Disons que vous avez un PDF avec le manuel de votre nouvelle montre numérique… vous pourrez demander à l’assistant comment la régler, ou comment remplacer la pile. Et si votre entreprise dispose d’un processus de remboursement bien documenté dans sa documentation dans Collectives, vous pouvez poser des questions à l’assistant sur ce processus. Il s’agit là d’une fonctionnalité tout à fait étonnante !

Cela ne se limite pas non plus à vos fichiers : nous avons développé une API pour que des applications telles que Mail, Agenda, Talk et Deck puissent également mettre leurs données à disposition. Vous pourrez alors demander : « Quand ai-je ma prochaine réunion avec mon patron ? » (à partir de l’Agenda) et « Quelles sont les tâches qu’il m’a demandé de travailler en priorité cette semaine ? » (à partir de Mail). Ou « Donnez-moi un résumé de l’état d’avancement du projet X ». (Deck + tchat peut-être ?)

Context Write, quant à lui, permet à l’assistant de réécrire un texte dans un certain contexte ou style. Supposons que vous ayez écrit un beau poème et que vous souhaitiez en écrire un autre dans le même style. En fournissant le poème original, puis le nouveau texte de ce que vous voulez dire, l’assistant créera un chef-d’œuvre. En fournissant le poème original, puis le nouveau texte de ce que vous voulez dire, l’assistant créera un chef-d’œuvre. Impressionnant et très utile !

Refonte complète de l’interface utilisateur

Depuis un an et demi, nous avons introduit un large éventail de fonctions d’IA dans Nextcloud. Traduction, transcription audio, génération de textes et d’images, etc. Puis l’Assistant Nextcloud est arrivé – et nous avons maintenant intégré la plupart de nos fonctionnalités d’IA dans l’Assistant lui-même, toutes disponibles à partir d’une interface unifiée. Celui-ci ne se limite plus au texte, mais peut également générer des images et transcrire du son.

Une autre amélioration que beaucoup d’entre vous apprécieront est que vous pouvez maintenant voir un historique, une liste d’images, de textes ou de transcriptions audio générés précédemment dans l’interface de l’assistant. Vous pouvez même revenir en arrière et en générer d’autres sur la base des messages précédents. Il est désormais possible d’annuler une opération en cours, si vous le souhaitez.

Enfin, comme entrées possibles de l’assistant, vous pouvez coller ou taper du texte ou enregistrer de l’audio, et maintenant… sélectionner un ou plusieurs documents comme entrée également !

Les coulisses

Nous avons également accompli un travail considérable en coulisses. Nous avons permis aux administrateurs d’utiliser des modèles d’IA que nous n’avons pas encore explicitement intégrés dans Nextcloud, ce qui donne plus de flexibilité et de souplesse dans le choix des modèles à utiliser.

En particulier pour les déploiements plus importants, nous avons rendu possible l’exécution du LLM et d’autres opérations d’IA comme la transcription et le tchat contextuel sur un serveur séparé, en utilisant notre nouvel écosystème d’apps externes pour des déploiements en un clic, basés sur Docker. Vous pouvez également désormais utiliser un GPU pour la génération de texte, la transcription et le tchat contextuel. Cela signifie que la transcription d’un fichier audio d’une heure peut prendre de nombreuses minutes sur un processeur, alors qu’elle ne prend que quelques secondes sur un GPU !

Et bien plus à venir

Et, bien sûr, ce n’est pas tout. Nous avons développé une API qui peut être utilisée par des applications telles que Deck, Agenda ou Mail pour prendre en charge le tchat contextuel. Cela permettra à l’assistant de répondre à vos questions concernant votre courrier, vos tâches ou vos rendez-vous à venir ! Nous nous réjouissons de voir ces applications, ainsi que d’autres, prendre en charge cette fonctionnalité.

Nextcloud Hub 8 – notre prochaine version qui sortira prochainement – proposera également deux autres intégrations d’applications de l’Assistant : Tout d’abord, Nextcloud Talk sera en mesure de vous montrer des résumés de conversation dans les salles Talk, et Nextcloud Mail introduira des  » réponses suggérées  » par email ! Si vous ne vous êtes pas encore inscrit à notre événement de lancement Nextcloud Hub 8 le 24 avril, c’est le moment de le faire pour en savoir plus !

Comment l’obtenir

Alors maintenant, vous vous demandez : quand puis-je l’obtenir ? Nous avons de bonnes nouvelles ! Presque toutes ces fonctionnalités ont été reportées dans Nextcloud Hub 7, ce qui signifie qu’elles sont disponibles dès maintenant dans l’app store Nextcloud. Il vous suffit d’effectuer une mise à jour. Si vous n’avez pas encore essayé l’assistant, c’est peut-être le moment de le faire !

Pour exécuter l’IA localement, le plus simple est d’utiliser LocalAI. Un conteneur communautaire existe pour notre Tout-En-Un, de sorte que les utilisateurs du Tout-En-Un peuvent simplement se rendre sur cette page pour en savoir plus sur l’ajout de conteneurs supplémentaires, puis activer le conteneur LocalAI. N’hésitez pas à consulter notre documentation et à poser des questions dans les forums – vous pouvez commencer à le faire en dessous de ce message !

IONOS, OVHcloud, plusserver et d’autres vous apportent…

Ceci nous amène à la dernière pièce du puzzle : Pour que ces fonctions d’intelligence artificielle fonctionnent parfaitement, vous aurez besoin d’un matériel sérieux. Cela ne sera malheureusement pas une expérience des plus plaisantes sur votre Raspberry Pi. Mais ! Heureusement, un certain nombre d’entreprises ont commencé à fournir de l’IA en tant que service, en utilisant divers modèles open source que Nextcloud prend en charge afin que vous puissiez vous y connecter à distance. C’est une excellente chose, mais malheureusement, la quasi-totalité de ces entreprises sont basées aux États-Unis, et quelques-unes en Chine. Si vous vivez aux États-Unis, c’est évidemment parfait : les données restent dans votre juridiction et vous avez le choix entre plusieurs fournisseurs locaux. Mais pour nos utilisateurs en Europe, c’est loin d’être idéal. La juridiction américaine traite malheureusement les données des utilisateurs européens avec un respect de la vie privée bien loin d’être idéal, en grande partie à cause du CLOUD Act promulgué par l’ancien président américain Donald Trump.

Mais aujourd’hui, nous annonçons que nous avons travaillé en étroite collaboration avec plusieurs grands hébergeurs européens, dont IONOS, OVHcloud et plusserver, afin d’intégrer leurs prochaines solutions AI-as-a-Service. Ils seront ainsi accessibles aux clients et utilisateurs de Nextcloud qui souhaitent profiter des fonctionnalités avancées d’IA dans Nextcloud Hub mais qui ne souhaitent pas héberger eux-mêmes des services d’IA. Plusieurs clients de Nextcloud ont exprimé leur intérêt pour ces fonctionnalités et se préparent à les tester ou sont en train de le faire. Voici ce qu’en disent nos partenaires et nos clients :

OVHcloud est ravi de collaborer avec Nextcloud pour offrir à nos clients des solutions d’IA souveraine numérique à la pointe de la technologie. Nous sommes en phase avec l’engagement de Nextcloud à offrir des fonctionnalités d’IA sécurisées et respectueuses de la vie privée qui protègent les données de formation et adhèrent strictement à la réglementation RGPD. Nous sommes ravis d’annoncer que cette intégration sera disponible au deuxième trimestre 2024, marquant ainsi une étape importante dans notre parcours vers l’innovation responsable en matière d’IA.

Germain Masse, responsable du marketing des produits d’IA chez OVHCloud

Nous sommes fiers d’offrir aux clients de Nextcloud une solution conforme à la réglementation européenne en matière de protection des données. Des services d’IA locaux, fiables et dignes de confiance seront essentiels pour protéger la souveraineté numérique des secteurs public et privé en Europe.

IONOS

plusKI propose au marché allemand des technologies d’IA de pointe, en open source, dans le cadre d’un service conforme et numériquement souverain. Nous sommes ravis de travailler avec Nextcloud pour mettre cette solution à la disposition de leurs clients en tant que back-end de la nouvelle génération de l’assistant Nextcloud..

Christian Schmitz, Directeur Open Source chez plusserver

Chez SUNET, nous sommes heureux que Nextcloud Assistant soit 100 % gratuit et open source, qu’il fonctionne sur site et qu’il offre des fonctionnalités utiles qui, nous l’espérons, profiteront à nos utilisateurs à l’avenir. Nous apprécions la collaboration très productive avec Nextcloud.

Mike Nordin, Sunet, le réseau informatique universitaire suédois

À l’avenir, nous mettrons les services d’IA à la disposition des employés de l’administration publique directement sur leur lieu de travail. Nous voulons encourager le développement de solutions ouvertes et souveraines sur le plan numérique, en plus de l’utilisation de services d’IA existants tels que ChatGPT. En effet, l’administration du futur travaillera de manière automatisée, algorithmée, cloudifiée et basée sur des données. Pour que cette vision de l’avenir devienne réalité, nous devons fournir les outils appropriés. Cela crée également de la valeur et des emplois dans notre économie numérique nationale.

Dirk Schrödter – Ministre de la Digitalisation et chef de la Chancellerie , Schleswig-Holstein, Allemagne

Les entreprises technologiques américaines ont une longueur d’avance sur les entreprises européennes qui proposent des LLM et d’autres services d’IA aux petites entreprises et aux clients finaux. Il existe un nombre important d’offres qui utilisent leurs propres modèles, comme OpenAI, ou qui fournissent un ou plusieurs modèles ouverts, comme Llama, Gemma ou Mistral, sous la forme d’un service. En Europe, Mistral et Aleph Alpha s’efforcent toujours de proposer leurs propres modèles, tandis que seuls quelques grands hébergeurs cherchent à offrir divers LLM ouverts dans le cadre d’un modèle d’IA en tant que service.

Dans le même temps, nos clients et utilisateurs sont de plus en plus demandeurs de services d’IA européens. Le fonctionnement de l’IA en local représente un coût élevé, et pour la plupart des clients de Nextcloud en Europe, recourir à l’IA proposée en tant que service par des entreprises technologiques étrangères ne constitue pas une solution viable. Cette approche comporte des risques de confidentialité et de souveraineté liés à l’envoi de données cruciales à l’étranger. De ce fait, nous travaillons avec un petit nombre de fournisseurs pour offrir leurs services d’intelligence artificielle. Pour accélérer le processus, nous les avons mis en contact avec des clients potentiels. Comme vous pouvez l’imaginer, offrir un service dont le profil des clients n’est pas clairement défini n’est pas chose aisée. Mais plusieurs universités sont intéressées par la possibilité d’externaliser certaines opérations d’IA lourdes, et l’on assiste donc à une évolution vers les services d’IA. Cela signifie que non seulement nos utilisateurs, mais aussi l’ensemble de l’écosystème européen pourront en bénéficier !

La disponibilité publique des services européens d’IA est attendue au cours du printemps et de l’été, certains visant même la fin avril/début mai !

Merci !

Nous sommes très fiers de cette version et nous aimerions remercier tous ceux qui ont contribué, en testant, en révisant le code, mais aussi les universités qui veulent tester les services d’IA, et bien sûr OVHcloud, IONOS et nos autres partenaires qui veulent fournir ces services !