Nvidia представи най-новия си чип H200 за обучение на AI модели
Nvidia представи днес своя H200 - графичен процесор, предназначен за обучение и внедряване на модели с изкуствен интелект, които захранват генеративния AI бум, докато големи компании, стартъпи и държавни институции се борят за достъп до такива технологии на фона на ограниченото им предлагане, пише CNBC.
Новият продукт надгражда H100, използван от OpenAI за обучение на най-модерния голям езиков модел, GPT-4.
Според оценка на инвестиционната банка Raymond James H100 струват между 25 000 и 40 000 долара, отбелязва CNBC.
Вълнението около AI графичните процесори на Nvidia увеличи акциите на компанията, които са нараснали с повече от 230% от началото на 2023 г. Nvidia очаква около 16 милиарда долара приходи за третото фискално тримесечие, което е ръст от 170% спрямо предходната година.
Ключовото подобрение при H200 е, че включва 141 GB памет от следващо поколение „HBM3“, която ще помогне на чипа да извършва „изводи“ или да използва голям модел, след като е обучен да генерира текст, изображения или прогнози.
Nvidia заявява, че H200 ще генерира изходно съдържание почти два пъти по-бързо от H100.
H200, чиито доставки се очакват през второто тримесечие на 2024 г., ще се конкурира с MI300X GPU на AMD, който има допълнителна памет в сравнение с предшествениците си.
Nvidia съобщава още, че H200 ще бъде съвместим с H100, което означава, че AI компаниите, които вече работят с предишния модел, няма да трябва да променят своите сървърни системи или софтуер, за да използват новата версия, отбелязва CNBC.
Изданието допълва, че докато компании като Nvidia предлагат различни конфигурации на своите чипове, новите полупроводници често правят голяма крачка напред на всеки две години, когато производителите преминат към различна архитектура, която отключва по-значителна производителност, отколкото добавянето на памет или други по-малки оптимизации. И H100, и H200 са базирани на Hopper архитектурата на Nvidia.
През октомври Nvidia съобщи на инвеститорите, че ще премине от двугодишен архитектурен ритъм към едногодишен модел на пускане поради голямото търсене на нейните графични процесори. Компанията показа презентационен слайд, който предполага, че ще обяви и пусне своя чип B100, базиран на предстоящата архитектура Blackwell, през 2024 г.