AIトレーニングは興味深いところであり、特に分散トレーニングネットワークにおいては、彼らはトレーニングしているGPUよりも小さいモデルをトレーニングしています。ほとんどのネットワークは、消費者向けGPUに収まるように1.5B、3B、8Bモデルのトレーニングを行っています。