Reconnaissance d'Expert
Jim Fan, Directeur Senior de Recherche chez NVIDIA, a récemment partagé son évaluation approfondie de DeepSeek R1 sur les réseaux sociaux. En tant que co-fondateur de GEAR Lab, leader du projet GR00T, titulaire d'un doctorat de Stanford et premier stagiaire d'OpenAI, les points de vue de Fan ont un poids considérable dans l'industrie. Il a particulièrement souligné les contributions remarquables de DeepSeek au développement de l'IA open source en tant qu'entreprise non américaine.
Héritier de l'Esprit Open Source
Dans son commentaire, Fan a noté : "Nous vivons une époque intéressante où une entreprise non américaine maintient la mission originelle d'OpenAI - une recherche véritablement ouverte et de pointe qui donne du pouvoir à tous. Cela peut sembler illogique, mais le résultat le plus intéressant est souvent le plus probable." Il a particulièrement apprécié que DeepSeek ne se contente pas de publier une série de modèles open source, mais révèle également tous les secrets de l'entraînement.
Analyse Approfondie des Innovations Techniques
Après une lecture attentive du papier technique de DeepSeek R1, Fan a souligné plusieurs percées techniques majeures :
-
Approche d'Apprentissage par Renforcement Pure :
- Utilise une approche "démarrage à froid" uniquement pilotée par RL, sans aucun SFT
- Rappelle la percée d'AlphaZero dans la maîtrise du Go, du Shogi et des échecs à partir de zéro
- Considéré comme la découverte la plus importante du papier
-
Mécanisme de Récompense Innovant :
- Utilise des récompenses réelles calculées par des règles codées en dur
- Évite les modèles de récompense appris que le RL peut facilement pirater
-
Évolution du Temps de Réflexion :
- Le temps de réflexion du modèle augmente régulièrement avec la progression de l'entraînement
- C'est une propriété émergente, non un comportement pré-programmé
-
Innovation de l'Algorithme GRPO :
- Supprime le réseau critique du PPO
- Utilise à la place la récompense moyenne de plusieurs échantillons
- Une méthode simple pour réduire l'utilisation de la mémoire
- Notamment, GRPO a été inventé par DeepSeek en février 2024
Nouveau Paradigme d'Impact Technique
Fan a particulièrement souligné que l'impact dans l'IA peut être réalisé de différentes manières : "L'impact peut venir d'un 'ASI réalisé en interne' ou de noms mystiques comme 'Project Strawberry'. L'impact peut aussi venir simplement de la publication d'algorithmes bruts et de courbes d'apprentissage matplotlib." Cette perspective souligne l'importance de l'ouverture et de la transparence.
Exemple d'Innovation Durable
Du point de vue de Fan, DeepSeek est probablement le premier projet open source à montrer une croissance importante et durable du volant d'inertie RL. Ce progrès technique continu et cette attitude ouverte établissent une référence importante pour l'ensemble de la communauté IA.
Conclusion
L'évaluation de Jim Fan ne confirme pas seulement les réalisations techniques de DeepSeek R1, mais souligne également ses contributions importantes à la démocratisation de l'IA et à l'esprit open source. En tant qu'autorité dans l'industrie, sa reconnaissance confirme davantage la position importante de DeepSeek dans le paysage mondial de l'IA.
Expérimentez vous-même les capacités de réflexion approfondie de DeepSeek R1 en visitant DeepSeek R1 Chat!