Надградениот
алгоритам за учење на Мета за различни модалитети е значително побрз од
неговиот претходник.
Речиси
единаесет месеци по објавувањето на data2vec, одделот за вештачка интелигенција
на Мета покажува подобрена верзија на својот мултимодален алгоритам за учење.
Со data2vec, многу е полесно да се пренесе напредокот во една област на
истражување на вештачката интелигенција, како што е разбирањето на текстот, во
други области како сегментација на слики или превод, вели Мета. Како и неговиот
претходник, data2vec 2.0 може да обработува говор, слики и текст, но учи многу
побрзо.
Data2vec 2.0 е
многу поефикасен и ги надминува силните перформанси на првата верзија, велат од
компанијата. Ја постигнува приближно истата точност како широко користениот
алгоритам за компјутерска визија, но е 16 пати побрз.
Data2vec 2.0
учи контекстуализирани претстави
Слично на
неговиот претходник, data2vec 2.0 предвидува контекстуализирани претстави на
податоци наместо само пиксели во слика, зборови во пасус од текст или звук во
говорна датотека.
Поточно,
алгоритмот го учи зборот банка, на пример, врз основа на целосната реченица во
која тој збор се појавува, и на тој начин учи да го претставува правилното
значење на зборот побрзо – т.е. како финансиска институција.
Мета се сомнева
дека оваа контекстуализација е одговорна за брзото учење на алгоритмот. За да
се зголеми ефикасноста, тимот, исто така, се потпира на студентски мрежи кои
учат од мрежа за наставници и CNN, наместо од трансформаторски декодер.
Мета се надева
дека поефикасните алгоритми како data2vec 2.0 ќе доведат до машини кои можат да
разберат исклучително сложени податоци како содржината на цел филм.