OpenAI and Broadcom have unveiled Jalapeno, OpenAI's first custom AI chip, designed primarily to handle inference for ChatGPT and other services. It's a major step in OpenAI's plan to "build the full stack behind its models and products," says OpenAI. "By designing more of the stack ourselves, we can serve more intelligence with greater efficiency and keep pushing advanced AI toward broader access." CNBC reports: The chip with Broadcom is an ASIC, which industry experts say is less flexible than Nvidia's GPU, but is also less expensive and can be designed for specific AI tasks. OpenAI said that it designed the chip in nine months, and that it also crafted large parts of the computer system where it will be used.
The companies are calling the chip an "Intelligence Processor" and describe it as the first "AI accelerator" in a platform they're building "to make advanced AI faster, more reliable, and more accessible to more people." [...] A physical sample of the new chip will be delivered to OpenAI on Wednesday. The companies said they're aiming for initial deployment of the Jalapeno chips by the end of 2026, "expanding in the years ahead."
Ancient Slashdot reader Mark Round writes: Longtime reader here (since mid-1999 -- Hot Grits! Oog the Caveman! Beowulf clusters!), and I can still remember posting back on Slashdot's own 5th anniversary. Time's rolled on: my own blog just turned 25, and it's now roughly 40 years since I first sat down at a computer. So I went digging through archive.org, old backups, and a box of ZIP disks, and wrote up a long look back at four decades of computing through the one website that's been my online home along the way. It runs from my first 8-bit micro and a 1,200-baud modem through discovering the actual Internet at university (and burning far too many hours on Slashdot and sister sites like freshmeat.net), past gloriously pimped-out Enlightenment Linux desktops, all the way to the modern cloud-native world. Plenty of dodgy screenshots, terrible code, and fond memories of long-gone haunts like kuro5hin.org and Linux Coffee Talk along the way.
En cette période de disette de composants informatiques, pourquoi ne pas recycler d’anciens appareils pour construire des serveurs ? L’idée n’est pas neuve, mais le projet de l’université de Californie entend passer à la vitesse supérieure avec un centre de calcul composé de 2 000 smartphones Pixel recyclés.
En moyenne, un utilisateur d’iPhone ou de smartphone Android en change tous les 4 ans, a récemment calculé l’assureur Assurant. Passées ces quatre années, que se passe-t-il pour le vieux modèle ? Il meurt souvent tranquillement au fond d’un tiroir, mais il est possible (et important !) de lui donner une seconde vie : le revendre ou le céder à un proche, ou encore recycler ses composants.
Une seconde carrière pour d’anciens smartphones
Des chercheurs de l’université de Californie à San Diego (UCSD) considèrent qu’un smartphone avec un peu de bouteille reste un ordinateur tout à fait capable. Certes, le châssis peut avoir souffert, et la puissance de batterie n’est plus qu’un lointain souvenir de ce qu’elle était auparavant. Leur idée a été de récupérer la carte mère du téléphone, le processeur, la mémoire et le stockage, pour les intégrer dans un serveur.
Le projet, soutenu par Google, utilise des smartphones Pixel Fold, et l’objectif ne manque pas d’ambition puisque ce sont 2 000 unités qui seront connectées entre elles dans un centre de calcul. L’université espère ainsi disposer d’une puissance de calcul équivalente à une cinquantaine de serveurs conventionnels.
Les appareils ne fonctionneront pas sous Android ; le système d’exploitation sera une distribution Linux pour que les téléphones puissent exécuter des applications serveur. Pour répartir les tâches automatiquement entre les différents appareils, les chercheurs utilisent Kubernetes.
Ryan Kastner, professeur associé en informatique à l’UCSD, a expliqué à The Register que les premiers essais ont été réalisés avec des smartphones non modifiés. Une solution pas idéale : lors des premières réunions avec Google, « leurs ingénieurs nous ont expliqué que, si nous voulions déployer ces appareils dans un centre de données, il était impensable de conserver les batteries — comme d’ailleurs beaucoup d’autres composants — car ils constituent un risque d’incendie ».
les cœurs les plus puissants du Pixel Fold affichent, sur la plupart des tests du benchmark SPEC, de meilleures performances individuelles que ceux d’un serveur de centre de données de référence.
Le processeur Google Tensor G2 du Pixel Fold abrite deux cœurs Cortex-X1 (2,85 GHz), deux cœurs Cortex-A78 (2,35 GHz) et quatre Cortex-A55 (1,8 GHz), un GPU Mali-G710 et 12 Go de mémoire. Prise seule, cette puce est loin des monstres qui motorisent les serveurs avec leurs centaines de Go de RAM, des dizaines de cœurs et des capacités réseau sans commune mesure. Mais combinez-en 25 à 50 smartphones, et vous obtiendrez un serveur conventionnel convenable pour certains types de tâches.
D’autant qu’en performances par cœur, les processeurs des smartphones modernes peuvent rivaliser avec certains serveurs de centre de données. Ce sont surtout la quantité de mémoire et le nombre de cœurs disponibles qui distinguent encore les deux catégories.
Les serveurs sont-ils solubles dans les smartphones ?
L’idée n’est toutefois pas de remplacer les serveurs IA ou les infrastructures de Google. Mais pour des travaux pratiques d’informatique, certains calculs parallèles, la correction automatique de devoirs, de petites applications web ou pour héberger des notebooks Jupyter (des espaces de travail interactifs utilisés pour programmer et analyser des données), ces serveurs bricolos sont aptes à la tâche.
L’équipe explique d’ailleurs que beaucoup de services universitaires tournent déjà sur de très petites machines virtuelles dans le nuage ; un smartphone pourrait assumer ce genre de charge. Les premières expérimentations montrent qu’un cluster de 20 unités peut gérer les pics de travaux soumis par une promotion de plus de 75 étudiants, avec des temps de correction plus rapides que le backend AWS utilisé habituellement (des instances t3.micro équipées de deux vCPU et d’un seul Go de mémoire vive).
Le centre de calcul au complet, avec ses 2 000 smartphones, devrait entrer en service dès cet automne. Il pourrait faire fonctionner une centaine de cours similaires en parallèle. L’installation servira de test grandeur nature, et permettra également de mesurer la fiabilité de matériel grand public utilisé en continu comme infrastructure infonuagique.
Les chercheurs rappellent aussi que la fabrication des appareils informatiques représente une part importante de son empreinte carbone. Or, la carte mère, qui est conservée dans le projet, concentrerait à elle seule près de la moitié des émissions liées à la production d’un smartphone.
En cas de réussite de l’expérience, la vie utile de nombreux smartphones pourrait gagner quelques années – même s’il faut garder en tête que seule une partie des composants est exploitée. Le recyclage reste indispensable pour valoriser le reste de l’appareil.
En cette période de disette de composants informatiques, pourquoi ne pas recycler d’anciens appareils pour construire des serveurs ? L’idée n’est pas neuve, mais le projet de l’université de Californie entend passer à la vitesse supérieure avec un centre de calcul composé de 2 000 smartphones Pixel recyclés.
En moyenne, un utilisateur d’iPhone ou de smartphone Android en change tous les 4 ans, a récemment calculé l’assureur Assurant. Passées ces quatre années, que se passe-t-il pour le vieux modèle ? Il meurt souvent tranquillement au fond d’un tiroir, mais il est possible (et important !) de lui donner une seconde vie : le revendre ou le céder à un proche, ou encore recycler ses composants.
Une seconde carrière pour d’anciens smartphones
Des chercheurs de l’université de Californie à San Diego (UCSD) considèrent qu’un smartphone avec un peu de bouteille reste un ordinateur tout à fait capable. Certes, le châssis peut avoir souffert, et la puissance de batterie n’est plus qu’un lointain souvenir de ce qu’elle était auparavant. Leur idée a été de récupérer la carte mère du téléphone, le processeur, la mémoire et le stockage, pour les intégrer dans un serveur.
Le projet, soutenu par Google, utilise des smartphones Pixel Fold, et l’objectif ne manque pas d’ambition puisque ce sont 2 000 unités qui seront connectées entre elles dans un centre de calcul. L’université espère ainsi disposer d’une puissance de calcul équivalente à une cinquantaine de serveurs conventionnels.
Les appareils ne fonctionneront pas sous Android ; le système d’exploitation sera une distribution Linux pour que les téléphones puissent exécuter des applications serveur. Pour répartir les tâches automatiquement entre les différents appareils, les chercheurs utilisent Kubernetes.
Ryan Kastner, professeur associé en informatique à l’UCSD, a expliqué à The Register que les premiers essais ont été réalisés avec des smartphones non modifiés. Une solution pas idéale : lors des premières réunions avec Google, « leurs ingénieurs nous ont expliqué que, si nous voulions déployer ces appareils dans un centre de données, il était impensable de conserver les batteries — comme d’ailleurs beaucoup d’autres composants — car ils constituent un risque d’incendie ».
les cœurs les plus puissants du Pixel Fold affichent, sur la plupart des tests du benchmark SPEC, de meilleures performances individuelles que ceux d’un serveur de centre de données de référence.
Le processeur Google Tensor G2 du Pixel Fold abrite deux cœurs Cortex-X1 (2,85 GHz), deux cœurs Cortex-A78 (2,35 GHz) et quatre Cortex-A55 (1,8 GHz), un GPU Mali-G710 et 12 Go de mémoire. Prise seule, cette puce est loin des monstres qui motorisent les serveurs avec leurs centaines de Go de RAM, des dizaines de cœurs et des capacités réseau sans commune mesure. Mais combinez-en 25 à 50 smartphones, et vous obtiendrez un serveur conventionnel convenable pour certains types de tâches.
D’autant qu’en performances par cœur, les processeurs des smartphones modernes peuvent rivaliser avec certains serveurs de centre de données. Ce sont surtout la quantité de mémoire et le nombre de cœurs disponibles qui distinguent encore les deux catégories.
Les serveurs sont-ils solubles dans les smartphones ?
L’idée n’est toutefois pas de remplacer les serveurs IA ou les infrastructures de Google. Mais pour des travaux pratiques d’informatique, certains calculs parallèles, la correction automatique de devoirs, de petites applications web ou pour héberger des notebooks Jupyter (des espaces de travail interactifs utilisés pour programmer et analyser des données), ces serveurs bricolos sont aptes à la tâche.
L’équipe explique d’ailleurs que beaucoup de services universitaires tournent déjà sur de très petites machines virtuelles dans le nuage ; un smartphone pourrait assumer ce genre de charge. Les premières expérimentations montrent qu’un cluster de 20 unités peut gérer les pics de travaux soumis par une promotion de plus de 75 étudiants, avec des temps de correction plus rapides que le backend AWS utilisé habituellement (des instances t3.micro équipées de deux vCPU et d’un seul Go de mémoire vive).
Le centre de calcul au complet, avec ses 2 000 smartphones, devrait entrer en service dès cet automne. Il pourrait faire fonctionner une centaine de cours similaires en parallèle. L’installation servira de test grandeur nature, et permettra également de mesurer la fiabilité de matériel grand public utilisé en continu comme infrastructure infonuagique.
Les chercheurs rappellent aussi que la fabrication des appareils informatiques représente une part importante de son empreinte carbone. Or, la carte mère, qui est conservée dans le projet, concentrerait à elle seule près de la moitié des émissions liées à la production d’un smartphone.
En cas de réussite de l’expérience, la vie utile de nombreux smartphones pourrait gagner quelques années – même s’il faut garder en tête que seule une partie des composants est exploitée. Le recyclage reste indispensable pour valoriser le reste de l’appareil.
Connexion
