Dolina Krzemowa od miesięcy usilnie próbuje nam wmówić, iż sztuczna inteligencja jest już gotowa przejąć stery nad naszą cyfrową codziennością. I wtedy pojawiają się takie kwiatki…
Gdy potężne systemy wizyjne zderzają się z chaotycznym, szybkim światem krótkich formatów wideo, efekt częściej przypomina narkotyczny sen niż technologiczną rewolucję. TikTok właśnie wycofuje się rakiem ze swojej nowej funkcji podsumowywania filmów przez AI. Powód? Algorytm zaczął generować tak absurdalne opisy, iż użytkownicy zaczęli się zastanawiać, czy to wciąż awaria, czy już wyrafinowany trolling ze strony programistów.
Netflix skopiował TikToka. Nowa funkcja w aplikacji to pułapka na nasz czas
Charli D’Amelio, jagody i gumowe kurczaki
Zasada działania „AI Overviews” na TikToku miała być prosta: algorytm analizuje klip i generuje pod spodem krótki, tekstowy opis tego, co się w nim dzieje. W teorii miało to być świetne narzędzie ułatwiające przeglądanie platformy.
W praktyce okazało się spektakularną porażką systemów rozumienia obrazu. Kiedy jedna z największych gwiazd platformy, Charli D’Amelio, opublikowała zwykły klip, w którym siedzi i mówi do kamery, sztuczna inteligencja z pełnym przekonaniem podpisała go jako: „kolekcja różnych jagód z różnymi dodatkami”.
Na owocach się jednak nie skończyło. Pokaz tańca towarzyskiego został podsumowany jako „osoba wielokrotnie uderzająca się w głowę gumowym kurczakiem”, a film instruktażowy nagrany przez trenera psów zyskał wspaniały tytuł „urzekającego pokazu skomplikowanej sztuki origami”.
Te „halucynacje” stały się tak powszechne i memiczne, iż TikTok musiał wcisnąć hamulec bezpieczeństwa. Funkcja została drastycznie ograniczona – teraz będzie jedynie próbowała rozpoznawać konkretne produkty w kadrze, zamiast bawić się w kreatywnego recenzenta sztuki wizualnej.
Szybciej, więcej, głupiej
Cała ta sytuacja to coś więcej niż tylko zabawna anegdota. To kolejny, po słynnych poradach Google nakazujących jedzenie kamieni i dodawanie kleju do pizzy, dowód na to, w jak wielkiej panice działają dziś firmy technologiczne. Presja inwestorów i ciągły wyścig o tytuł lidera innowacji są tak gigantyczne, iż zarządy wielkich korporacji wolą wypuścić na rynek całkowicie niedopracowany produkt i narazić się na śmieszność, niż przyznać, iż technologia po prostu nie jest gotowa na takie wdrożenia.
Zrozumienie dynamicznych, pociętych i pełnych kontekstu filmów okazało się dla algorytmów zadaniem o wiele trudniejszym, niż generowanie gładkich odpowiedzi tekstowych.
Przebita bańka kompetencji
Weekend to idealny moment, by złapać trochę dystansu do tego pędzącego bez trzymanki technologicznego wyścigu. Historia z TikToka przypomina nam fundamentalną prawdę: choć współczesne czatboty i modele wizyjne potrafią imponować, to pod spodem nie ma żadnego prawdziwego „zrozumienia” rzeczywistości. To wciąż statystyczne zgadywanki, które potrafią spektakularnie wypaść z torów. Zanim więc ostatecznie zaufamy algorytmom w kwestii ważnych życiowych decyzji, warto pamiętać, iż dla tej samej potężnej technologii, człowiek na ekranie to czasami po prostu miska nieźle posypanych jagód.
Jeśli artykuł Sztuczna inteligencja na TikToku kapituluje. Algorytm pomylił tańczącą gwiazdę z miską jagód nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.
