L'envers du décor opaque des datacenters géants qui font tourner nos modèles d'IA

Un incendie révélateur des failles d'organisation

En juin dernier, un incendie s'est déclaré sur le chantier du complexe de Lake Mariner, un datacenter de 3,2 milliards de dollars d'une capacité de 500 mégawatts situé à Somerset, dans l'État de New York. L'intervention des pompiers a mis en évidence des dysfonctionnements critiques : aucun système d'alarme fonctionnel, des bouches d'incendie hors d'usage et l'impossibilité d'accéder aux fiches de données de sécurité (FDS, les documents légaux détaillant la dangerosité des produits chimiques présents sur site).

Cet incident met en lumière le montage juridique complexe propre aux infrastructures d'IA actuelles :

• TeraWulf détient et exploite le datacenter sur un terrain loué à une entité appartenant à son propre PDG.
• Fluidstack, une entreprise britannique spécialisée dans la gestion de puissance de calcul d'IA, gère les opérations.
• Google détient des options d'achat d'actions (des warrants, des titres financiers donnant le droit d'acheter des parts de l'entreprise) jusqu'à 14 % du capital et garantit les loyers.
• Anthropic fait partie des clients finaux louant la puissance de calcul (compute, le volume de processeurs graphiques et de processeurs nécessaires pour faire tourner ou entraîner des modèles).

La dilution des responsabilités financières et environnementales

Cette cascade d'intermédiaires dilue la responsabilité juridique, environnementale et sociale. Alors que le projet promettait 165 emplois permanents en 2019, la direction n'en prévoit désormais plus que 35 à 40, malgré une empreinte énergétique massive. Face à ces écarts et à l'impact sur les réseaux électriques locaux, la gouverneure de l'État de New York a imposé un moratoire sur le développement des nouveaux datacenters d'hyperscalers (les géants du cloud qui construisent des infrastructures massives).

Côté énergie, Anthropic s'est engagé à couvrir les surcoûts d'électricité subis par les riverains. Cependant, la vérifiabilité des promesses de transition écologique reste floue. TeraWulf est passée d'un discours affichant 95 % d'énergie zéro carbone à une formulation plus ambiguë évoquant de l'énergie « bas carbone », s'appuyant sur le réseau régional sans acheter de certificats d'énergie renouvelable dédiés.

Ce que cela change pour les équipes de développement

Pour les équipes de développement qui intègrent des agents ou des assistants de code basés sur Claude (Anthropic) ou Gemini (Google), cette opacité complexifie le suivi de leur démarche RSE (responsabilité sociétale des entreprises, l'évaluation de l'impact social et environnemental des activités). Lorsqu'une application consomme des millions de jetons (tokens, les unités de texte ou de code traitées par un modèle de langage) via une API (interface de programmation d'application), il devient difficile de vérifier si les calculs s'exécutent sur une infrastructure réellement décarbonée et sécurisée.

Voici un exemple de configuration de suivi d'utilisation API pour tracer l'emplacement et la consommation de vos requêtes LLM (grand modèle de langage) :

{
  "provider": "anthropic",
  "model": "claude-3-5-sonnet",
  "monitoring": {
    "track_tokens": true,
    "log_compute_region": "us-east-1",
    "datacenter_audit": "lake-mariner-ny"
  }
}

Face à la multiplication de ces structures fragmentées, les équipes techniques devront exiger une plus grande transparence de la part des fournisseurs d'API sur la provenance et les conditions d'exploitation réelles de leur puissance de calcul.