llama 2

Obliczenia powiązane ze sztuczną inteligencją zazwyczaj kojarzą się z koniecznością dysponowania olbrzymią mocą obliczeniową. W praktyce są już jednak dostępne na rynku modele językowe, które z powodzeniem działają na zwykłym sprzęcie. Rzadko jednak zdarza się, by ktoś próbował je uruchomić na wiekowym komputerze. Takiego przedsięwzięcia podjął się jeden z serwisów poświęconych AI. Rezultaty opublikowano na materiale wideo i blogu.

Sztuczna inteligencja (pojęcie, które ma szerokie znaczenie, a w tym temacie odnosi się do modeli językowych) rozwija się w naprawdę szybkim tempie, jednak wciąż widać, że jest to "twór" wymagający dopracowania. Wiele osób obawia się, że z czasem AI zabierze im stanowisko pracy. W jednym z ostatnich eksperymentów wykazano, że do tego jeszcze długa droga - a przynajmniej w kwestii streszczania i rozumienia treści, gdyż w tych aspektach ludzie wypadli o wiele lepiej.

Usługi związane ze sztuczną inteligencją cały czas się rozwijają, a prym wśród nich wiodą chatboty, które są oparte na dużych modelach językowych (LLM). Najbardziej znanym jest oczywiście ten od firmy OpenAI, czyli ChatGPT, gdyż to on zapoczątkował całą rewolucję. Jednak chatboty mają wspólną cechę, która wiele osób skłania do tego, aby z nich nie korzystać - jest nią fakt, że wszystkie dane są przetwarzane w chmurze, więc nasze konwersacje z modelami językowymi nie są prywatne. Ba,...

Microsoft powoli staje się coraz większym graczem na rynku, jeśli spojrzymy na firmę pod kątem „sztucznej inteligencji". Inwestycja w organizację OpenAI okazała się strzałem w dziesiątkę, a teraz firma poszerza swoje udziały, nawiązując partnerstwo z Mistral AI. Startup ten jest na rynku zaledwie od kwietnia 2023 roku, a jego wartość już szacuje się na 2 mld euro. Współpraca wprowadza nowy model językowy Mistral Large na platformę Azure AI.

Chatboty są dziś powszechnie dostępne, natomiast wszystkie zbierają o nas konkretne informacje, a nasze konwersacje nie są zbyt prywatne. Z tego powodu lepszym rozwiązaniem może się okazać korzystanie z danego dużego modelu językowego (LLM), na którym oparte są chatboty, na naszym komputerze. NVIDIA udostępniła właśnie nowe oprogramowanie, które nam to ułatwi i pozwolić wykorzystać możliwości lokalnego chatbota w bardziej spersonalizowany sposób.

Dziś (6 grudnia 2023 roku) odbyła się zapowiedziana jakiś czas temu konferencja firmy AMD pod nazwą Advancing AI. Tematem przewodnim była dziedzina sztucznej inteligencji. Na wydarzeniu swoją oficjalną premierę miał akcelerator graficzny z rodziny AMD Instinct MI300, a konkretniej model MI300X. Został on stworzony do obliczeń związanych z AI, a jego konkurencją jest układ NVIDIA H100. Natomiast jednostka od AMD okazuje się aż o 60% wydajniejsza.

Zespół badaczy z firmy Meta opracował nowy punkt odniesienia do oceny możliwości asystentów AI, takich jak model językowy GPT-4 od OpenAI. Zespół, w skład którego wchodzi "ojciec chrzestny AI" i główny naukowiec Mety, Yann LeCun, wymyślił egzamin o nazwie GAIA, który składa się z 466 pytań, które są "koncepcyjnie proste dla ludzi, ale stanowią wyzwanie dla najbardziej zaawansowanych SI".

Usług związanych ze sztuczną inteligencją jest obecnie wiele, natomiast jednymi z popularniejszych są chatboty, które funkcjonują w oparciu o duże modele językowe (LLM). Natomiast skorzystanie z nich wiąże się z przesyłaniem danych wejściowych na serwer zewnętrzny, co nie sprzyja prywatności. Inną możliwością jest uruchomienie modeli językowych lokalnie, jednak do sprawnego działania wymaga to odpowiedniej mocy obliczeniowej. NVIDIA chce pomóc użytkownikom w tym zadaniu, więc niebawem udostępni...

Mimo że obecnie najpopularniejszą przeglądarką internetową jest Google Chrome, to nadal spora część użytkowników szuka innych rozwiązań, które oferują większą prywatność, bądź natywne wsparcie dla mechanizmów blokujących reklamy. Jedną z takich funkcjonalnych alternatyw jest Brave. Ta całkiem popularna przeglądarka doczekała się nowej funkcjonalności, którą jest asystent AI lub innnymi słowy: chatbot, taki jak Bing Chat, czy też ChatGPT.

Jednym z elementarnych składników niektórych usług, które zwykliśmy nazywać "sztuczną inteligencją", są modele językowe. To właśnie w oparciu o nie działają takie rozwiązania jak ChatGPT, Google Bard i inne, które zaliczamy do chatbotów. Dokładniej mówiąc, każde z nich składa się z wytrenowanego dużego modelu językowego (LLM), który różni się od siebie parametrami (czyli mówiąc ogólniej - możliwościami). Obecna generacja ChatGPT funkcjonuje poprzez model GPT 3,5 ze 175 mld parametrów....

Kolejna odsłona dużego modelu językowego od Mety, jakim jest Llama 2, została właśnie za darmo udostępniona dla wszystkich - również do użytku komercyjnego. Mark Zuckerberg ogłosił na swoim profilu na Facebooku, że i tym razem współpracowano z firmą Microsoft. Cały kod Llama 2 jest otwartoźródłowy, z uwagi na niemal same zalety takiego rozwiązania. Model językowy charakteryzuje się sporo wyższym zakresem danych, na jakich został wytrenowany (niż Llama).