Nowy model sztucznej inteligencji od Meta
Kilka dni temu, 13 czerwca Meta ogłosiła ciekawą informację. Firma, która jest właścicielem Facebooka, Instagrama i popularnych komunikatorów Whatsapp i Messenger przedstawiła nowy model sztucznej inteligencji (AI). Został on stworzony zgodnie z zupełnie odmienną filozofią od dotychczasowych modeli językowych. Model ten nosi nazwę I-JEPA. Wyróżnia się na rynku tym, że nie wymaga podpowiedzi ani wskazówek. Całkowicie samodzielnie dedukuje to, co obserwuje.
W tym tekście (3)
Na czym polega fenomen I-JEPA?
Image Joint Embedding Predictive Architecture (I-JEPA), bo tak został nazwany model AI od Meta, stanowi przede wszystkim realizację wizji Yanna LeCuna, lidera zespołu ds. sztucznej inteligencji w Meta. W zeszłym roku LeCun podzielił się swoją wizją modelu nauki, który przezwycięża ograniczenia dotychczasowych, nawet najbardziej zaawansowanych, modeli. Istotą jego koncepcji jest uczenie się poprzez tworzenie wewnętrznych modeli zewnętrznego świata.
Do tej pory modele sztucznej inteligencji, otrzymując fragment obrazka, starały się odgadnąć, co znajduje się na ukrytych jego częściach poprzez przewidywanie zawartości kolejnych pikseli. Innymi słowy, poszukiwały podobnego wzorca obrazka i uzupełniały go.
Jak działa I-JEPA?
W przypadku I-JEPA, model ten nie wyszukuje analogicznych obrazów w swojej bazie danych. Zamiast tego, na podstawie zdobytej dotychczas wiedzy, interpretuje, co znajduje się na danym obrazie. Model ten potrafi dedukować, co powinno znaleźć się na dalszych fragmentach obrazka, bazując na swoim wewnętrznym rozumieniu. Przykładowo, jeśli otrzyma fragment obrazka przedstawiającego pysk psa, I-JEPA będzie potrafił go uzupełnić tak, aby widoczne było całe zwierzę. Nie dzieje się to dzięki wiedzy na temat konkretnych pikseli, lecz dzięki intuicyjnemu zrozumieniu, jak wygląda cały pies.
W kontekście I-JEPA, nie skupia się na drobiazgowym detalu. Model ten prognozuje obrazy na abstrakcyjnym poziomie, zamiast dokładnie ustalać wartość każdego piksela. Dzięki temu unika się generatywnego podejścia, które prowadziłoby do tworzenia uogólnionych treści. Tworzone przez I-JEPA obrazy nie są schematyczne ani szablonowe.
Czy AI potrafi myśleć abstrakcyjnie?
Największą zaletą I-JEPA, zgodnie z intencją jego twórców, jest fakt, że ma ona charakter bardziej subiektywny niż matematyczny, odzwierciedlając sposób ludzkiego myślenia. Poprzez eliminację informacji dotyczących pojedynczych pikseli, model ten eliminuje również zbędny szum informacyjny, który zakłóca interpretację i generowanie obrazów przez modele generatywne.
Nowy model stworzony przez firmę Meta jest w stanie przechwytywać obrazy, włączając w to również ruchome obrazy w filmach, i dokładnie analizować ich głębię oraz położenie obiektów. Model ten potrafi identyfikować i klasyfikować poszczególne obiekty na filmie bez konieczności szczegółowej analizy pikseli. Według ekspertów z Meta, im więcej obrazów obserwuje I-JEPA, tym lepiej będzie budować swoje wewnętrzne pojęcie o zewnętrznym świecie. Co istotne, narzędzie samo nadzoruje swój rozwój i nie wykorzystuje oznakowanych obrazów zawierających opisy ich zawartości.
Specjaliści z Meta zapowiadają, że będą rozwijać ten projekt. W planach mają przede wszystkim rozwinięcie zdolności modelu do pracy z danymi tekstowo-wizualnymi oraz danymi wideo. Nam zostaje z zainteresowaniem obserwować kolejne kroki firmy i być ciekawym efektów jej pracy.
