Dans les secteurs à forte intensité de données, élargir la fenêtre contextuelle risque d’être contre-productif. Bien que les modèles puissent traiter davantage d’informations, davantage de données font augmenter les coûts plus rapidement que les prix des jetons ne peuvent baisser. Mais un modèle de raisonnement ne devrait pas avoir besoin de lire chaque point de données pour raisonner sur les données, ni de retraiter le même ensemble de données sous-jacent à chaque fois qu’une nouvelle question est posée.
Un contexte plus large n’est pas la même chose qu’une meilleure architecture
Imaginez un commerçant analysant 10 ans de données de marché ou un scientifique travaillant sur des millions d’observations génomiques. Une approche consiste à placer les données sous-jacentes dans le contexte du modèle et à les laisser fonctionner directement. Techniquement, cela peut fonctionner, mais d’un point de vue architectural, cela signifie qu’un système de raisonnement coûteux doit traiter d’énormes quantités d’informations avant de pouvoir commencer à comprendre la question, déterminer l’analyse appropriée et interpréter le résultat.
Mais un analyste quantitatif ne lit pas manuellement des centaines de milliers d’observations et ne fait pas le calcul à la main. Ils décident de ce qui doit être calculé, le confient à un outil informatique et raisonnent avec ce qui revient.
