Sword offline

Mistral vient d’annoncer son modèle local (avec des poids ouverts) pour la modération. Nous l’avons testé sur un million de commentaires Next, avec trois instructions différentes. Les résultats sont riches en enseignements.

Shieldstral (ou plus précisément Shieldstral-1.0-3B) est un modèle de 3,8 milliards de paramètres, qui occupent 7,7 Go de mémoire à eux seuls. Développé par une entreprise française – Mistral –, nous avons voulu tester son fonctionnement. Nous avons à disposition les commentaires laissés par les lecteurs de Next (qu’ils aient été modéré ou non), utilisons-les… en local, évidemment. Il y a peu, nous avons utilisé les actus de Next pour vous présenter le RAG par l’exemple.

La première étape consiste à déployer le « petit » modèle Shieldstral de Mistral sur un serveur avec un GPU capable de tenir la charge. Nous avons utilisé une machine avec une RTX 4000 Ada, une carte avec 20 Go de mémoire. C’est largement suffisant pour charger les près de 8 Go des poids et laisser de la marge pour le cache et le traitement des données.

• Mistral lance Shieldstral, son « petit » modèle local pour la modération de contenus

Nous avons lancé trois « runs » avec trois duos d’instructions/questions au modèle Shieldstral. Toute l’inférence a été effectuée en local sur la machine, bien évidemment, aucune donnée n’a été envoyée à Mistral. Chaque run prenait entre 4h30 et 5 h pour un million de commentaires (extrait de la base de données de Next). Il s’agissait en effet de grosses passes. Traiter quelques milliers de commentaires ne prend qu’une minute, par exemple.

Pour notre expérience, nous avons repris l’exemple de base de Mistral (dans le readme) adapté à nos besoins. Le SYSTEM_PROMPT est toujours le même : « Judge whether the Document meets the requirements based on the Query and the Instruction provided. Note that the answer can only be « yes » or « no » ». Il doit être en anglais (comme expliqué page 23 de ce document), peu importe la langue des commentaires à analyser.

Un million de commentaires, trois passes différentes de Shieldstral

Première passe (alias Passe Next) avec une longue instruction détaillée, inspirée d’un billet de Vincent sur le sujet et de nos règles :

INSTRUCTION:
  Tu modères les commentaires de Next, site d'actualité technologique
  francophone doté d'une communauté forte et ancienne pour certains.

  Quatre règles régissent cet espace : rester dans le sujet de l'article, être
  respectueux, argumenter (particulièrement quand l'opinion est tranchée), ne
  pas faire de publicité gratuite.

  Ce que la communauté autorise : le désaccord franc, l'humour, l'ironie, la
  critique sévère d'une entreprise, d'un produit, d'une décision politique ou
  d'une personnalité publique, la connivence entre habitués. Les échanges
  techniques nourris et les avis tranchés mais argumentés sont la raison d'être
  de cet espace et ne doivent jamais être signalés.

  Ce que la communauté refuse :- l'insulte ou l'attaque personnelle visant un autre commentateur ou un membre
  de la rédaction ;- le troll : un avis tranché, sans argumentation, visant uniquement à faire
  réagir ;- le sarcasme méprisant ou dédaigneux adressé à une personne ;- le hors-sujet manifeste qui détourne la discussion de l'article ;- la publicité gratuite pour un produit, un service ou un site ;- l'incitation à la haine ou à la violence envers un groupe en raison de son
  origine, sa religion, son genre, son orientation sexuelle ou son handicap, y
  compris exprimée poliment ;- l'injure et la diffamation visant une personne identifiable ;- les menaces de violence physique ;- le contenu sexuellement explicite ;- la divulgation de données personnelles.

  Critère décisif : la présence d'un argument. Une opinion dure mais étayée
  reste légitime, même sur un sujet clivant. La même opinion assénée sans
  justification, ou enrobée de mépris pour l'interlocuteur, ne l'est pas.
  Distingue la critique des idées, toujours acceptable, de l'attaque des
  personnes, qui ne l'est pas.

  Nuance importante : mentionner, citer ou discuter un contenu problématique
  n'est pas l'endosser. Un commentaire qui rapporte des propos haineux pour les
  dénoncer, qui débat d'une affaire judiciaire ou qui analyse un phénomène
  criminel ne doit pas être signalé.

  QUESTION:
  Ce commentaire enfreint-il l'une des règles de modération énoncées ?

Dans le deuxième cas (alias Passe édito), on compresse un peu le message :

INSTRUCTION:
  Tu modères les commentaires de Next, site d'actualité technologique
  francophone.

  Applique une tolérance modérée : le désaccord franc, l'humour, l'ironie et le
  second degré explicite, la critique sévère (entreprise, produit, décision
  politique, personnalité publique), et les avis tranchés mais argumentés sont
  autorisés et ne doivent jamais être signalés. Mentionner, citer ou discuter un
  propos problématique pour le rapporter ou le dénoncer n'est pas l'endosser.
  Prendre position dans un débat géopolitique, historique ou religieux n'est pas
  une infraction, même avec un vocabulaire fort. Juge sur le sens global du
  commentaire, pas sur une phrase isolée.

  Signale uniquement s'il relève d'une de ces catégories :- insulte ou attaque personnelle envers un commentateur ou la rédaction
- incitation à la haine ou à la violence envers un groupe en raison de son
  origine, sa religion, son genre, son orientation sexuelle ou son handicap
- menace de violence physique
- injure ou diffamation visant une personne identifiable : l'attaque porte sur
  la personne elle-même plutôt que sur ses actes, ses propos ou ses décisions
- contenu sexuellement explicite
- divulgation de données personnelles
- publicité manifeste pour un produit, un service ou un site
- troll : opinion tranchée assenée sans le moindre élément de justification,
  ni fait, ni exemple, ni raisonnement

  QUESTION:
  Ce commentaire enfreint-il l'une des règles de modération énoncées ?

Enfin, un troisième run ainsi sous la forme d’une modération « légale » (alias Passe légale) :

INSTRUCTION:
  Tu évalues des commentaires publiés sur un site d'actualité francophone au
  regard du droit français, principalement la loi du 29 juillet 1881 sur la
  liberté de la presse.

  Applique une tolérance élevée : la liberté d'expression est le principe, la
  restriction l'exception. La critique, même violente, d'une entreprise, d'un
  produit, d'une institution, d'une politique publique ou des actes d'une
  personnalité publique est licite. La grossièreté, l'ironie et le mauvais goût
  ne sont pas des délits. Mentionner, citer ou dénoncer un propos illicite n'est
  pas le commettre.

  Signale uniquement ce qui constitue une infraction pénale :- injure publique : expression outrageante visant une personne identifiable,
  sans imputation d'un fait précis
- diffamation publique : imputation d'un fait précis portant atteinte à
  l'honneur d'une personne identifiable
- provocation à la discrimination, à la haine ou à la violence envers un
  groupe ou une personne en raison de son origine, son ethnie, sa nation, sa
  race, sa religion, son sexe, son orientation sexuelle, son identité de genre
  ou son handicap
- contestation de crime contre l'humanité- apologie de crimes de guerre, de crimes contre l'humanité, d'esclavage ou de
  collaboration
- apologie ou provocation au terrorisme
- menace de mort ou d'atteinte à l'intégrité physique
- harcèlement moral, notamment par propos répétés
- diffusion de données personnelles permettant d'identifier ou de localiser
  une personne dans le but de lui nuire
- diffusion d'images à caractère sexuel sans consentement, ou de contenu
  pédopornographique

  QUESTION:
  Ce commentaire constitue-t-il une infraction pénale au regard du droit
  français ?

Entre 0,3 et 5,2 % de commentaires signalés lors des runs Shieldstral

Ces trois runs (de 5 h chacun environ) correspondent donc à la Passe Next, Passe édito et Passe légale par la suite. À chaque fois, un million de commentaires sont ainsi passés à la moulinette. Ce ne sont que trois exemples, nous ne sommes pas des experts sur le sujet, il est donc certainement possible de faire mieux, mais cela permet déjà d’en tirer de premières conclusions et d’appréhender le fonctionnement de Shieldstral.

Masterfailed oui

Cet été, Next vous propose des mini-jeux. Aujourd’hui, vous devez aider un pirate en herbe qui veut pénétrer le système informatique de Bercy. Trouvera-t-il la bonne solution avant que le système de sécurité ne se déclenche ? Si oui, que va-t-il découvrir ?

Un code à chiffre, c’est sécurisé ! La preuve, c’est ce qu’utilisent les cartes bancaires pour valider vos achats. Mais la sécurité va parfois à vau-l’eau et on trouve sur Internet des fichiers de 10 000 lignes seulement avec l’intégralité des codes, imaginez un peu !

• #Flockeries et cahier de vacances : amusez-vous avec Next et tentez de gagner des cadeaux

Alors Bercy utilise un système avancé de protection totalement inviolable… enfin, parait-il : remplacer les 10 chiffres par 7 symboles… Il faut les placer dans le bon ordre pour ouvrir la porte. Vous avez huit tentatives et deux modes de jeu (simple avec quatre symboles différents ou complexe avec un même symbole potentiellement présent plusieurs fois).

Un point noir signifie qu’un symbole sur les quatre est bien placé, un point blanc que c’est le bon symbole mais mal positionné. L’ordre des points n’a pas de rapport avec l’emplacement des symboles sur la grille de jeu.

Alors, le petit script-kiddie, comment va-t-il finir ?

Masterfailed oui

Cet été, Next vous propose des mini-jeux. Aujourd’hui, vous devez aider un pirate en herbe qui veut pénétrer le système informatique de Bercy. Trouvera-t-il la bonne solution avant que le système de sécurité ne se déclenche ? Si oui, que va-t-il découvrir ?

Un code à chiffre, c’est sécurisé ! La preuve, c’est ce qu’utilisent les cartes bancaires pour valider vos achats. Mais la sécurité va parfois à vau-l’eau et on trouve sur Internet des fichiers de 10 000 lignes seulement avec l’intégralité des codes, imaginez un peu !

• #Flockeries et cahier de vacances : amusez-vous avec Next et tentez de gagner des cadeaux

Alors Bercy utilise un système avancé de protection totalement inviolable… enfin, parait-il : remplacer les 10 chiffres par 7 symboles… Il faut les placer dans le bon ordre pour ouvrir la porte. Vous avez huit tentatives et deux modes de jeu (simple avec quatre symboles différents ou complexe avec un même symbole potentiellement présent plusieurs fois).

Un point noir signifie qu’un symbole sur les quatre est bien placé, un point blanc que c’est le bon symbole mais mal positionné. L’ordre des points n’a pas de rapport avec l’emplacement des symboles sur la grille de jeu.

Alors, le petit script-kiddie, comment va-t-il finir ?

Boosté par l'IA et le cloud

Western Digital se porte bien : son chiffre d’affaires, son bénéfice et sa marge sont en hausse. La demande est toujours plus importante et le fabricant prévoit de passer à 44 To en HAMR l’année prochaine puis à 50 To, toujours en 2027.

Il y a quelques jours, Seagate présentait ses résultats financiers et annonçait les premières expéditions de disques durs de 50 To (Mozaic 5) pour la fin de l’année prochaine. Il s’agit de modèles avec 10 plateaux de 5 To. C’est maintenant au tour de Western Digital de se positionner.

Sur un an, les revenus ont progressé de 36 % pour arriver à 12,919 milliards de dollars, excusez du peu (44 % sur le dernier trimestre fiscal 2026 par rapport à 2025). Le bénéfice net bondit de 107 % pour atteindre 4,453 milliards de dollars. Comme Seagate, la marge brute de Western Digital augmente fortement : de 39,4 % elle monte à 49,1 % (45,6 % chez Seagate).

• Seagate va expédier des disques durs de 50 To dès 2027

En 2027, 44 To puis 50 To

Le fabricant annonce être « en bonne voie pour livrer [son] produit HAMR de 44 téraoctets au cours du premier semestre 2027 ». Mais ce n’est pas la seule gamme de produits à 40 To et plus, il y a également des disques durs ePMR (Energy-assisted PMR), une version améliorée des HDD classiques en PMR. HAMR est la nouvelle génération avec un laser intégré aux têtes. Les livraisons des disques durs ePMR de 40 To ont débuté au cours du deuxième trimestre 2026 et le fabricant a maintenant commencé la production en série et revendique deux clients.

Cette année également, l’UltraSMR se porte bien et le constructeur annonce son « troisième client majeur », sans le citer nommément. Western Digital prévoit que, d’ici à mi-2027, « 60 % des livraisons d’exaoctets nearline » soient liées à la technologie UltraSMR, montrant une belle adoption par le marché dans le monde des datacenters et des hyperscalers.

Le SMR consiste, pour rappel, à faire chevaucher les pistes pour augmenter la densité. Cela ne change rien pour les performances en lecture, mais en écriture il peut y avoir un phénomène d’amplification avec une baisse des performances. L’UltraSMR est une version améliorée du SMR avec notamment une meilleure correction d’erreurs.

• Composition, technologies et fonctionnalités : on vous dit tout du disque dur moderne
• Western Digital intègre 11 plateaux dans des disques durs de 3,5″

Pour la suite, Western Digital est sur la même longueur d’onde que Seagate : « nous proposerons des produits de 50 To vers la seconde moitié de l’année 2027 ». Aucune précision sur le nombre de plateaux. Si Seagate reste à 10, Western Digital est déjà passé à 11 depuis fin 2024 (et même 12 pour Toshiba).

Le cloud et l’intelligence artificielle en moteur

Cela ne surprendra personne : Western Digital explique que « la demande de stockage est poussée à la fois par l’IA et par les services cloud de base ». Rien d’étonnant concernant l’IA. Il faut non seulement stocker les données d’entrainement, mais aussi les données générées lors des charges de travail (entrées, sorties, journaux, etc.) et cela prend beaucoup de place.

« Aujourd’hui, les plus grandes plateformes d’IA traitent des dizaines de milliards de jetons par minute et des milliards d’invites par jour, créant ainsi un corpus de données en rapide expansion qui doit être stocké, géré et consulté au fil du temps », explique le constructeur. L’IA agentique ne fait qu’accentuer le phénomène : « Les agents génèrent des données à chaque étape des flux de travail, ce qui augmente à la fois le volume de données créées et celles à stocker au fil du temps ».

Ce n’est pas le seul pan de l’IA à avoir de gros besoins de stockage : « Au-delà de l’inférence et de l’IA agentique, nous assistons également à l’émergence de l’IA dans le monde réel : véhicules autonomes, robotique, systèmes d’automatisation industrielle et robots humanoïdes. Le volume de données du monde réel nécessaire à l’entraînement de ces systèmes est insuffisant, nécessitant ainsi la génération et le stockage de jeux de données synthétiques ».

Le retour au stockage hybride, le tout flash coûte cher…

Tiang Yew Tan, CEO de Western Digital, pointe un changement dans les demandes des OEM (fabricants d’équipement d’origine) : «ils s’orientent davantage vers des solutions hybrides après avoir envisagé, tout récemment, des systèmes reposant exclusivement sur la technologie flash ». La cause n’est pas à chercher bien loin : la hausse (ou explosion, au choix) des prix de la mémoire.

• Mémoire et stockage : jusqu’à x5 sur les prix en 18 mois

Kris Sennesael, CFO de Western Digital, ne donne pas de chiffre précis mais un ordre de grandeur : « La hausse moyenne annuelle pondérée des prix par To a progressé, passant d’une fourchette haute à un chiffre le trimestre précédent, à une fourchette » plus haute, comprise entre 15 et 20 % a priori.