KRK.TV

niezależna telewizja internetowa – portal informacyjny

Google ostrzega przed halucynującym Chatbotem AI?

Szef wyszukiwarki Google ostrzegał niedawno przed „halucynacjami” Chatbota AI. Czym jednak miałyby być halucynacje sztucznej inteligencji?

Wiodący dyrektor Google użył w niemieckiej gazecie stwierdzenia, iż obecna forma generatywnej sztucznej inteligencji, takiej jak ChatGPT, może być zawodna i wchodzić w stan przypominający „odpływanie” lub sen.

„Ten rodzaj sztucznej inteligencji, o którym teraz mówimy, może czasami prowadzić do czegoś, co nazywamy halucynacją” – powiedział Welt am Sonntag Prabhakar Raghavan, starszy wiceprezes Google i szef wyszukiwarki Google. „Wyraża się to w taki sposób, że maszyna zapewnia przekonującą, ale całkowicie zmyśloną odpowiedź” – powiedział.

Rzeczywiście, wielu użytkowników ChatGPT, w tym współzałożyciel Apple Steve Woźniak, skarżyło się, że sztuczna inteligencja często się myli. Błędy w kodowaniu i dekodowaniu między tekstem a reprezentacjami mogą powodować „halucynacje” sztucznej inteligencji.

Ted Chiang tak wyraził się o „halucynacjach” ChatGPT na swoim Twitterze: „jeśli algorytm kompresji ma na celu rekonstrukcję tekstu po odrzuceniu 99% oryginału, powinniśmy spodziewać się, że znaczna część tego, co generuje, będzie całkowicie sfabrykowana…”.

Przypomnijmy, że Chat GPT (Generative Pre-trained Transformer) to korzystający ze sztucznej inteligencji chatbot uruchomiony przez OpenAi w listopadzie 2022 roku. Został on tak zaprojektowany, aby w odpowiedzi na otrzymane pytania i podpowiedzi generować teksty podobne do tych tworzonych przez ludzi. Może być więc wykorzystywany w szerokim zakresie generowania tekstu, ale również wyszukiwania… Czego Google z pewnością przestraszyło się, gdyż firma niedawno ogłosiła, że właśnie testuje własnego chatbota o nazwie Bard Apprentice. Ma on być oparty na takiej samej technologii jak duży model językowy OpenAI dla ChatGPT.

Niestety demonstracja w Paryżu wypadła katastrofalnie i inwestorzy byli przeważnie rozczarowani. Od czasu uruchomienia ChatGPT, deweloperzy Google’a znajdują się pod silną presją, zagraża on bowiem podstawowej działalności najpopularniejszej wyszukiwarki. 

„Oczywiście czujemy pilną potrzebę, ale czujemy też wielką odpowiedzialność” – powiedział Raghavan gazecie. – „Na pewno nie chcemy wprowadzać opinii publicznej w błąd”.

Zobacz więcej

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

WP Radio
WP Radio
OFFLINE LIVE