Un scientifique qui cherche à corriger une simulation peut avoir deux tâches à accomplir dans le même après-midi. La première consiste à lancer le calcul. La seconde consiste à comprendre pourquoi la tentative précédente a échoué. Le Texas Advanced Computing Center (TACC), à l’Université du Texas à Austin, construit Sagebrush notamment pour cette seconde tâche. Dans son annonce du 18 novembre, le centre a indiqué que le projet financé par la National Science Foundation (NSF) proposerait des services d’IA accessibles en continu, en parallèle de la Leadership-Class Computing Facility de la NSF.
Ce qui change, c’est la façon dont le chercheur soumet une demande. Dans un système de traitement par lots, il soumet un calcul dont la machine planifie l’exécution. Avec Sagebrush, une application cliente pourrait envoyer une requête à un modèle hébergé. La description du système indique que le service utilise une interface compatible avec OpenAI et présente des projets de chatbot accessible depuis un navigateur et d’environnement Jupyter. L’interface définit la façon dont les logiciels se connectent. Selon le TACC, le système est conçu pour faire tourner des modèles de fondation sur du matériel SambaNova. Dans son annonce, SambaNova confirme que le centre prévoit d’étendre son installation actuelle.
L’un des services prévus utiliserait de la documentation du centre de calcul et des exemples de code pour aider les chercheurs à diagnostiquer les pannes. Le TACC explique aussi comment des équipes pourraient fournir leurs propres collections de documents pour la génération augmentée par récupération. Le modèle pourrait ainsi s’appuyer sur des passages pertinents pour répondre. Un laboratoire pourrait commencer par une douzaine d’erreurs passées et les passages du manuel qui ont permis de les résoudre. Posez les mêmes questions avec et sans recherche documentaire. Comptez les réponses qui renvoient au bon passage et proposent une modification qui résout effectivement le problème. Un diagnostic bien formulé ne rapporte à lui seul aucun point dans ce test. Description des services de recherche documentaire prévus par le TACC
Pour les laboratoires qui établissent un calendrier, la première question est celle de l’accès. Le communiqué indique que le TACC cherchera de premiers utilisateurs ayant des projets précis pendant qu’il met en place un système d’attribution des accès. La page du système indique que le centre vise l’automne 2027 pour ouvrir de nouvelles allocations. Le TACC compte travailler sur ce processus avec la Leadership-Class Computing Facility, ACCESS et la National AI Research Resource. Un laboratoire qui a une échéance cette année devrait s’appuyer sur les ressources dont il dispose déjà et envisager une participation anticipée comme une possibilité distincte.