3 мај, 2024
ПочетнаТЕХНОЛОГИЈАGoogle развива суперкомпјутер за обука на моделите со вештачка интелигенција

Google развива суперкомпјутер за обука на моделите со вештачка интелигенција

Google објави нови детали за суперкомпјутерите што ги користи за обука на своите модели со вештачка интелигенција (AI), велејќи дека системите се и побрзи и енергетски поефикасни од системите направени од Nvidia Corp.

Google дизајнираше свој сопствен чип наречен Tensor Processing Unit (TPU). Компанијата ги користи тие чипови за повеќе од 90 проценти од работата на компанијата кога станува збор за обука на вештачката интелигенција, процес на хранење со податоци преку модели за да ги направи корисни за решавање задачи како што се одговарање на прашања за текст или генерирање слики, пишува Ројтерс.

Google моментално работи со четвртата генерација на TPU чипови. Технолошкиот гигант објави и научен труд во кој опишува како повеќе од 4.000 чипови споени во суперкомпјутер користејќи свои сопствени оптички прекинувачи за да помогнат во поврзувањето на поединечните машини.

Подобрувањето на поврзувањето на овие чипови стана клучна точка во конкуренцијата меѓу компаниите кои градат суперкомпјутери со вештачка интелигенција бидејќи таканаречените големи јазични модели што ги напојуваат технологиите како Google Bard или ChatGPT на OpenAI се премногу големи за да се складираат на еден чип.

Наместо тоа, моделите мора да се поделат на илјадници чипови, кои потоа мора да работат заедно со недели, понекогаш и подолго, за да го обучат моделот. Моделот PaLM на Google, неговиот најголем објавен јазичен модел досега, беше обучен за 50 дена со тоа што го подели на два од 4.000 чипови на суперкомпјутерот.

Во научен труд, Google вели дека во однос на системите со слична големина, неговите чипови се до 1,7 пати побрзи и 1,9 пати поефикасни од системот базиран на чипот A100 на Nvidia, кој се појави на пазарот во исто време со четвртата генерација на TPU.

Google навести дека технолошкиот гигант работи на нов TPU чип кој ќе се натпреварува со чипот H100 на Nvidia, но не се дадени детали.

НАЈНОВИ ВЕСТИ

ХОРОСКОП