Apple Music va étiqueter les morceaux générés par IA d’ici la fin de l’année. Le service de streaming a prévenu ses partenaires de la filière via un courriel obtenu par Billboard. Les chansons signalées comme « largement générées à l’aide de l’IA » par les maisons de disques et les distributeurs auront droit à un tag « Made With AI ».
En mars, la plateforme d’Apple avait dévoilé son système de signalement « AI Transparency Tags », par lequel les fournisseurs de musique doivent indiquer quand et où l’IA a été utilisée de manière « significative » – dans la création des visuels par exemple, ou encore le clip vidéo, la composition ou la chanson. « Tout contenu provenant principalement d’un service d’IA générative », précise le courriel.
Ces informations, qui permettront à Apple Music d’identifier les contenus concernés, devront obligatoirement être fournies par les distributeurs. Et si certains ne jouent pas le jeu ? Olivier Schusser, le directeur du service, expliquait à Billboard en avril qu’Apple avait développé une technologie qui permet de « savoir précisément quel type de musique nous est envoyé, quel modèle d’IA a été utilisé ».
Apple pourrait donc aisément mettre la main au collet des titres IA. Mais le responsable estimait que la responsabilité devait être portée par les fournisseurs de contenus. « Toutes les maisons de disques dans le monde nous livrent des contenus utilisant l’IA, même si elles n’en ont pas forcément conscience. Elles doivent elles aussi développer des outils pour comprendre l’ampleur de cette utilisation », déclarait-il.
La musique générée par IA ne représente que 0,5 % des écoutes sur Apple Music, a indiqué Olivier Schusser. En revanche, plus d’un tiers des chansons téléversées sur les serveurs de la plateforme est généré par IA. Apple Music rejoint ainsi Deezer, Tidal et Spotify dans le signalement des morceaux IA.
Apple Music va étiqueter les morceaux générés par IA d’ici la fin de l’année. Le service de streaming a prévenu ses partenaires de la filière via un courriel obtenu par Billboard. Les chansons signalées comme « largement générées à l’aide de l’IA » par les maisons de disques et les distributeurs auront droit à un tag « Made With AI ».
En mars, la plateforme d’Apple avait dévoilé son système de signalement « AI Transparency Tags », par lequel les fournisseurs de musique doivent indiquer quand et où l’IA a été utilisée de manière « significative » – dans la création des visuels par exemple, ou encore le clip vidéo, la composition ou la chanson. « Tout contenu provenant principalement d’un service d’IA générative », précise le courriel.
Ces informations, qui permettront à Apple Music d’identifier les contenus concernés, devront obligatoirement être fournies par les distributeurs. Et si certains ne jouent pas le jeu ? Olivier Schusser, le directeur du service, expliquait à Billboard en avril qu’Apple avait développé une technologie qui permet de « savoir précisément quel type de musique nous est envoyé, quel modèle d’IA a été utilisé ».
Apple pourrait donc aisément mettre la main au collet des titres IA. Mais le responsable estimait que la responsabilité devait être portée par les fournisseurs de contenus. « Toutes les maisons de disques dans le monde nous livrent des contenus utilisant l’IA, même si elles n’en ont pas forcément conscience. Elles doivent elles aussi développer des outils pour comprendre l’ampleur de cette utilisation », déclarait-il.
La musique générée par IA ne représente que 0,5 % des écoutes sur Apple Music, a indiqué Olivier Schusser. En revanche, plus d’un tiers des chansons téléversées sur les serveurs de la plateforme est généré par IA. Apple Music rejoint ainsi Deezer, Tidal et Spotify dans le signalement des morceaux IA.
Aie confiance, crois en moi, que je puisse veiller sur toi
OpenAI lance un plugin qui permet à l’application ChatGPT sur macOS d’interagir directement avec les messages (iMessage, SMS) de l’utilisateur. Une intégration censée faciliter la vie de l’utilisateur, mais qui ne va pas sans poser de sérieuses questions quant à la confidentialité des données associées.
« Vos conversations de tous les jours viennent de gagner en simplicité grâce au nouveau plugin Apple Messages », annonce fièrement OpenAI. L’entreprise vient en effet d’annoncer la mise en ligne d’un nouveau composant optionnel, dédié aux versions macOS de ses clients logiciels, qui permet aux utilisateurs de ChatGPT de bénéficier d’une intégration renforcée avec l’application Messages du système, celle qui permet de gérer les messages texte (iMessage, SMS, RCS) envoyés par le truchement de l’iPhone de l’utilisateur.
Un accès complet aux messages (et au disque)
Dans une vidéo relayée sur X, OpenAI illustre l’utilité supposée de ce plugin : par exemple, demander à ChatGPT de retrouver les questions laissées en suspens dans les messages reçus la veille, puis rédiger, ou faire rédiger, directement la réponse depuis l’interface d’échange avec le LLM. Les fonctionnalités décrites illustrent la capacité du modèle à lire les messages envoyés ou reçus par l’utilisateur, pour en extraire des informations, générer une synthèse, ou préparer des réponses.
Sur son site, OpenAI précise le fonctionnement de ce nouveau plugin, et notamment la façon dont l’utilisateur garde le contrôle sur les messages envoyés, du moins s’il ne donne pas carte blanche à l’outil :
« Par défaut, ChatGPT n’envoie les messages qu’après votre approbation du message et de ses destinataires. Choisissez « Autoriser une seule fois » pour approuver uniquement cet envoi. Si vous sélectionnez « Toujours autoriser l’envoi vers cette conversation », ChatGPT pourra envoyer des messages ultérieurs à cette conversation sans nouvelle approbation. »
OpenAI annonce une disponibilité globale de ce plugin, ce que nous avons pu vérifier depuis une machine française, sur un compte ChatGPT gratuit. En passant par l’application et en sélectionnant le mode Codex, une recherche dans les plugins affiche bien l’intégration Messages. Son installation exige trois niveaux de permission : l’autorisation d’envoyer des messages, l’accès aux contacts, et l’accès total au disque (Full Disk Access), puisque le client doit pouvoir lire les messages archivés.
Permissions demandées à l’installation du plugin Messages pour ChatGPT – crédit Next
Dans sa doc, OpenAI ne dit rien en revanche des problèmes de confidentialité, ou de respect de la vie privée, soulevés par une telle intégration. L’entreprise a tout de même répondu à Bloomberg que son plugin ne créait pas d’index en propre des messages stockés sur la machine mais, dans les faits, on ne sait pas à ce stade quels sont les traitements exacts réalisés sur les Messages lors d’une requête, et dans quelle mesure le contenu de ces derniers transite par les serveurs d’OpenAI.
L’accès aux messages n’est pas anodin, puisqu’ils sont susceptibles de contenir des informations personnelles sensibles, qui impliquent l’utilisateur au premier chef, mais aussi l’ensemble des personnes avec lesquelles il correspond ou a correspondu.
Comptant sur l’impartialité d’un modèle par essence probabiliste, nous avons demandé à ChatGPT de résumer de façon concise les risques soulevés par une telle intégration. La capture d’écran ci-dessous illustre la réponse formulée par le modèle :
Réponse fournie par ChatGPT à la question de savoir si cette intégration soulève des risques relatifs à la vie privée – crédit Next
Un plugin concurrent de l’intégration ChatGPT dans Apple Intelligence
Reste à savoir ce qu’en pense Apple ? La firme de Cupertino ne s’est pas, pour l’instant, exprimée au sujet de cette nouveauté, qui vient pourtant marcher sur les platebandes d’une intégration plus officielle cette fois, celle qui permet d’utiliser ChatGPT avec Apple Intelligence et Siri sur l’iPhone, avec un volet confidentialité encadré par Apple.
Ce lancement intervient quelques jours seulement après l’introduction d’une autre fonctionnalité dédiée à macOS, « Computer History », qui permet à ChatGPT (dont l’application macOS a déjà été épinglée pour avoir stocké des informations en clair) de s’appuyer sur toutes les actions de l’utilisateur pour lui rappeler ce qu’il a fait sur son ordinateur. Fonctionnant littéralement comme un keylogger, celle-ci « génère un flux d’événements d’interaction à partir des applications et des sites web autorisés » en s’appuyant notamment sur « les clics, la saisie au clavier, les raccourcis clavier, les changements d’application et le contexte que macOS met à disposition via son système d’accessibilité ».
Aie confiance, crois en moi, que je puisse veiller sur toi
OpenAI lance un plugin qui permet à l’application ChatGPT sur macOS d’interagir directement avec les messages (iMessage, SMS) de l’utilisateur. Une intégration censée faciliter la vie de l’utilisateur, mais qui ne va pas sans poser de sérieuses questions quant à la confidentialité des données associées.
« Vos conversations de tous les jours viennent de gagner en simplicité grâce au nouveau plugin Apple Messages », annonce fièrement OpenAI. L’entreprise vient en effet d’annoncer la mise en ligne d’un nouveau composant optionnel, dédié aux versions macOS de ses clients logiciels, qui permet aux utilisateurs de ChatGPT de bénéficier d’une intégration renforcée avec l’application Messages du système, celle qui permet de gérer les messages texte (iMessage, SMS, RCS) envoyés par le truchement de l’iPhone de l’utilisateur.
Un accès complet aux messages (et au disque)
Dans une vidéo relayée sur X, OpenAI illustre l’utilité supposée de ce plugin : par exemple, demander à ChatGPT de retrouver les questions laissées en suspens dans les messages reçus la veille, puis rédiger, ou faire rédiger, directement la réponse depuis l’interface d’échange avec le LLM. Les fonctionnalités décrites illustrent la capacité du modèle à lire les messages envoyés ou reçus par l’utilisateur, pour en extraire des informations, générer une synthèse, ou préparer des réponses.
Sur son site, OpenAI précise le fonctionnement de ce nouveau plugin, et notamment la façon dont l’utilisateur garde le contrôle sur les messages envoyés, du moins s’il ne donne pas carte blanche à l’outil :
« Par défaut, ChatGPT n’envoie les messages qu’après votre approbation du message et de ses destinataires. Choisissez « Autoriser une seule fois » pour approuver uniquement cet envoi. Si vous sélectionnez « Toujours autoriser l’envoi vers cette conversation », ChatGPT pourra envoyer des messages ultérieurs à cette conversation sans nouvelle approbation. »
OpenAI annonce une disponibilité globale de ce plugin, ce que nous avons pu vérifier depuis une machine française, sur un compte ChatGPT gratuit. En passant par l’application et en sélectionnant le mode Codex, une recherche dans les plugins affiche bien l’intégration Messages. Son installation exige trois niveaux de permission : l’autorisation d’envoyer des messages, l’accès aux contacts, et l’accès total au disque (Full Disk Access), puisque le client doit pouvoir lire les messages archivés.
Permissions demandées à l’installation du plugin Messages pour ChatGPT – crédit Next
Dans sa doc, OpenAI ne dit rien en revanche des problèmes de confidentialité, ou de respect de la vie privée, soulevés par une telle intégration. L’entreprise a tout de même répondu à Bloomberg que son plugin ne créait pas d’index en propre des messages stockés sur la machine mais, dans les faits, on ne sait pas à ce stade quels sont les traitements exacts réalisés sur les Messages lors d’une requête, et dans quelle mesure le contenu de ces derniers transite par les serveurs d’OpenAI.
L’accès aux messages n’est pas anodin, puisqu’ils sont susceptibles de contenir des informations personnelles sensibles, qui impliquent l’utilisateur au premier chef, mais aussi l’ensemble des personnes avec lesquelles il correspond ou a correspondu.
Comptant sur l’impartialité d’un modèle par essence probabiliste, nous avons demandé à ChatGPT de résumer de façon concise les risques soulevés par une telle intégration. La capture d’écran ci-dessous illustre la réponse formulée par le modèle :
Réponse fournie par ChatGPT à la question de savoir si cette intégration soulève des risques relatifs à la vie privée – crédit Next
Un plugin concurrent de l’intégration ChatGPT dans Apple Intelligence
Reste à savoir ce qu’en pense Apple ? La firme de Cupertino ne s’est pas, pour l’instant, exprimée au sujet de cette nouveauté, qui vient pourtant marcher sur les platebandes d’une intégration plus officielle cette fois, celle qui permet d’utiliser ChatGPT avec Apple Intelligence et Siri sur l’iPhone, avec un volet confidentialité encadré par Apple.
Ce lancement intervient quelques jours seulement après l’introduction d’une autre fonctionnalité dédiée à macOS, « Computer History », qui permet à ChatGPT (dont l’application macOS a déjà été épinglée pour avoir stocké des informations en clair) de s’appuyer sur toutes les actions de l’utilisateur pour lui rappeler ce qu’il a fait sur son ordinateur. Fonctionnant littéralement comme un keylogger, celle-ci « génère un flux d’événements d’interaction à partir des applications et des sites web autorisés » en s’appuyant notamment sur « les clics, la saisie au clavier, les raccourcis clavier, les changements d’application et le contexte que macOS met à disposition via son système d’accessibilité ».
Les bots lisent les bots. Les sites web sont de plus en plus rédigés par des robots IA : plus d’un tiers des pages web mises en ligne après le lancement de ChatGPT intègre des contenus IA, selon une étude du Pew Research.
10 % des 10 000 pages web en anglais prélevées au mois de juillet par le Pew Research « présentent des signes significatifs d’une rédaction par IA » (textes complets ou largement remaniés). Cela parait finalement peu, mais comme le soulignent les chercheurs, une grande partie de ces pages a été mise en ligne avant l’avènement de l’IA. En mettant de côté les pages mises en ligne avant novembre 2022 et le lancement de ChatGPT, le taux monte à 35 % de pages intégrant du contenu IA.
L’étude a été réalisée avec l’aide de l’outil d’archivage web Common Crawl, les textes ayant été scrutés avec l’outil de détection IA Open Pangram. Ces utilitaires ne sont pas infaillibles, ils peuvent ranger à tort des documents rédigés par des humains dans la mauvaise case, et inversement. Néanmoins, certains types de ponctuation, de mots et d’expressions ont tendance à revenir plus fréquemment dans les textes générés par IA.
L’intelligence artificielle générative semble en effet apprécier les tirets cadratins (ils sont utilisés environ deux fois plus souvent) ; l’usage de la virgule de série (le fameux Oxford comma dans une énumération avant le « and », par exemple « I invited Alice, Bob, and Charlie ») augmente de 63 % ; certains mots prisés des IA sont employés plus de deux fois plus souvent (« testament », « interplay »…).
Pour rédiger une comparaison, l’IA a également davantage recours au parallélisme négatif, comme dans la phrase « Ce n’est pas seulement de l’information, c’est de l’influence ». Une tournure qui reste relativement rare tout de même. Les humains ne doivent pas pour autant s’interdire d’utiliser cet arsenal, mais l’IA montre un tropisme certain pour ces formes.
Début juin, Matthew Prince le patron de Cloudflare constatait que les bots (agents IA, mais aussi les bots plus traditionnels) représentaient plus de trafic que les internautes de chair et de sang. « Le trafic généré par les agents IA augmente si rapidement que, pour la première fois dans l’histoire d’internet, le trafic des bots a désormais dépassé celui des humains en ligne », s’étonnait-il. Le dirigeant avait prévu que cette bascule arriverait début 2027.
Autrement dit, de plus en plus de textes rédigés par des bots sont lus par d’autres bots. À ce rythme, les humains risquent bien de faire figure d’intrus sur Internet.
Les bots lisent les bots. Les sites web sont de plus en plus rédigés par des robots IA : plus d’un tiers des pages web mises en ligne après le lancement de ChatGPT intègre des contenus IA, selon une étude du Pew Research.
10 % des 10 000 pages web en anglais prélevées au mois de juillet par le Pew Research « présentent des signes significatifs d’une rédaction par IA » (textes complets ou largement remaniés). Cela parait finalement peu, mais comme le soulignent les chercheurs, une grande partie de ces pages a été mise en ligne avant l’avènement de l’IA. En mettant de côté les pages mises en ligne avant novembre 2022 et le lancement de ChatGPT, le taux monte à 35 % de pages intégrant du contenu IA.
L’étude a été réalisée avec l’aide de l’outil d’archivage web Common Crawl, les textes ayant été scrutés avec l’outil de détection IA Open Pangram. Ces utilitaires ne sont pas infaillibles, ils peuvent ranger à tort des documents rédigés par des humains dans la mauvaise case, et inversement. Néanmoins, certains types de ponctuation, de mots et d’expressions ont tendance à revenir plus fréquemment dans les textes générés par IA.
L’intelligence artificielle générative semble en effet apprécier les tirets cadratins (ils sont utilisés environ deux fois plus souvent) ; l’usage de la virgule de série (le fameux Oxford comma dans une énumération avant le « and », par exemple « I invited Alice, Bob, and Charlie ») augmente de 63 % ; certains mots prisés des IA sont employés plus de deux fois plus souvent (« testament », « interplay »…).
Pour rédiger une comparaison, l’IA a également davantage recours au parallélisme négatif, comme dans la phrase « Ce n’est pas seulement de l’information, c’est de l’influence ». Une tournure qui reste relativement rare tout de même. Les humains ne doivent pas pour autant s’interdire d’utiliser cet arsenal, mais l’IA montre un tropisme certain pour ces formes.
Début juin, Matthew Prince le patron de Cloudflare constatait que les bots (agents IA, mais aussi les bots plus traditionnels) représentaient plus de trafic que les internautes de chair et de sang. « Le trafic généré par les agents IA augmente si rapidement que, pour la première fois dans l’histoire d’internet, le trafic des bots a désormais dépassé celui des humains en ligne », s’étonnait-il. Le dirigeant avait prévu que cette bascule arriverait début 2027.
Autrement dit, de plus en plus de textes rédigés par des bots sont lus par d’autres bots. À ce rythme, les humains risquent bien de faire figure d’intrus sur Internet.
Connexion
