Společnost Nvidia čelí rostoucí konkurenci, soupeři se však málokdy pokoušejí o její úplné nahrazení. Většina vyzyvatelů se zaměřuje na segment inference (vyvozování), nikoliv na technologicky náročný trénink AI modelů. Podle údajů Silicon Analysts přesáhl podíl Nvidie v oblasti trénování v roce 2025 90 %. V segmentu inference se však její tržní podíl pohyboval mezi 60 % a 75 %, což otevírá prostor pro konkurenční řešení.
Právě tento rozdíl přitahuje vyzyvatele. Například startup Groq vyvinul svůj čip LPU specificky pro inferenci s cílem nabídnout rychlou odezvu. Podobnou strategii volí i technologičtí giganti. Google představil svůj nejnovější Tensor Processing Unit s názvem Ironwood, který je jeho prvním TPU navrženým výhradně pro inferenční úlohy. Tento čip navíc Google neprodává samostatně, ale nabízí jej pouze k pronájmu prostřednictvím své cloudové infrastruktury, čímž si zákazníky pevně fixuje ve svém ekosystému.
