OpenAI компани Google-ийн Tensor Processing Unit (TPU)-уудыг туршиж, Nvidia-аас өөр хувилбаруудыг эрэлхийлж эхэлсэн нь хиймэл оюун ухааны салбарын өсөж буй дүгнэлтийн зардалд хариу өгөх алхам гэж шинжээчид үзэж байна.
Bloomberg болон NetworkWorld-ийн мэдээлснээр, тус компани одоогоор TPU-г зөвхөн туршилтын түвшинд ашиглаж байгаа бөгөөд үйлдвэрлэлийн горимд нэвтрүүлэх тодорхой шийдвэр гаргаагүй байна. Гэсэн хэдий ч, энэ алхам нь дүгнэлт хийх өртөг хурдацтай өсч, Nvidia-ийн GPU-уудын үнэ, хомсдол нэмэгдэж буй нөхцөл байдалд анхаарал татаж байна.
Дүгнэлт хийх зардлын өсөлт, шинэ шийдлүүдийн эрэлд
Forrester-ийн ерөнхий шинжээч Чарли Дай “Асуулгын зардал давамгайлсан үед өөр төрлийн чипүүдийг эрчимтэй хэрэглэх хэрэгцээ нэмэгдэж байна” гэж онцолжээ. OpenAI-ийн энэхүү туршилт нь LLM буюу том хэмжээний хэлний загварын дэд бүтцэд илүү үр ашигтай, бага өртөгтэй шийдэл эрэлхийлж байгааг харуулж байгаа юм.
Barclays-ийн урьдчилсан таамаглалд дурдсанаар, 2026 он гэхэд зөвхөн дүгнэлтийн чипүүдэд зарцуулах хөрөнгө 120 тэрбум ам.долларт, харин 2028 он гэхэд 1.1 их наяд ам.долларт хүрэх магадлалтай. Энэ нь улам олон байгууллагыг GPU-ээс татгалзаж, TPU, ASIC зэрэг тусгай зориулалтын шийдлүүдийг сонирхоход хүргэж байна.
TPU-ийн давуу тал
Одоогоор OpenAI-ийн тооцооллын зардлын 50 орчим хувийг дүгнэлт эзэлж байгаа бол TPU-ууд, ялангуяа хуучин үеийнх нь хувьд Nvidia GPU-тай харьцуулахад хямд өртөгтэй, энергийн хэмнэлттэй дүгнэлтийг гүйцэтгэх чадвартай.
Омдиа компанийн шинжээч Александр Гарроуэлл хэлэхдээ, TPU-ийн архитектур нь FLOPS буюу хөвөгч цэгийн үйлдлийн хүчин чадлын хувьд бусад шийдлүүдээс илүү үр дүнтэй гэж олон инженер үздэг гэв.
Google Cloud өнөөдрийн байдлаар TPU-ийн v2-оос v6e хүртэлх таван үеийг санал болгодог бөгөөд сүүлийн үеийн Trillium (v6e), Ironwood зэрэг хувилбарууд нь өртөг ба гүйцэтгэлийн хувьд Nvidia, AMD зэрэг гол өрсөлдөгчидтэй эн тэнцүү гэж шинжээчид үзэж байна.
Нийлүүлэгчийн эрсдэлийг бууруулах алхам
TPU ашигласнаар OpenAI нь GPU-ийн хомсдол, үнэ өсөлтийн дарамтыг багасгахын зэрэгцээ нийлүүлэгчийн олон талт байдлыг хангах, хэлэлцээр хийх байр сууриа сайжруулах боломжтой.
OpenAI нь одоогоор Microsoft, Oracle, CoreWeave зэрэг нийлүүлэгчидтэй хамтран ажиллаж байгаа бөгөөд цаашид AWS-ийн Tranium, Microsoft-ын Maia гэх мэт AI-д зориулсан тусгай чипүүдийг ашиглах бүрэн боломжтой.
