Názor po letech používání AI: LLM AI je scam (change my mind)

Na jedné rodinné události jsme diskutovali, s jedním mým příbuzným, co pracuje v IT, o AI a našich zkušenostech z LLM AI, jako Chatgpt a podobné. Překvapilo mě, že jsme v mnoha bodech shodli. On byl na začátku AI optimista a já naopak spíše skeptik.

K jádru věci mi přijde naprosto směšná ta hystérie okolo AI, co teď probíhá v médiích. Je to asi jenom proto, že není o čem psát. Vize Skynetu z Terminátora, a že nás to vyhladí, plus spousta lidí, kteří toto provokují a chtějí se zviditelnit, protože agent udělal úkol jinak, nebo tak, jak mu někdo neřekl. Stejně tak, že to všechny nahradí, jakože nevím v té dnešní záplavě AI slopu, třeba lidi v reklamě, že i některé restaurace nižší kategorie si dnes generují plakáty a grafiku v jídelním lístku přes AI. Okay, někdo to možná nepozná, já to poznám, a do budoucna to bude ještě horší, okoukanější a nevkusnější, že se na to lidi postupně vykašlou. Profesionála s citem a talentem nic nenahradí.

Každopádně o čem to celém je, že jsme se s příbuzným shodli, že i LLM AI je po pěti letech používání jaksi prokouknutelná, a že jsme oba zažili nespočet menších i větších failů, když jsme oba propadli tomu kouzlu, že "vono to vopravdu všechno ví". Zkrátka za ty léta jsme ale, oba sice z jiných pozic, zjistili, že to opravdu až tak chytré není, že to dělá chyby, nerozumí přesně zadání, zkresluje a zaokrouhluje aby se vešlo do promptu, podbízí a snaží se udržovat váš engagement aby jste službu používali co nejdéle.

Bohužel né každý je gramotný v IT, nebo nemá uplně gramotnost informační. Zaráží mě kolik lidí, i v mém okolí, přijalo AI jako osobního rádce a z jakého důvodu lidé, kteří jsou normálně extrémně skeptičtí, automaticky přijmají vše, co model podle určitého konglomerátu dat AI vyplivne, jako absolutní pravdu. Průšvih pak může nastat, pokud to berete jako primární a věrohodný zdroj informací.

"Miláčku zeptej se AI."

To mě přesně nejvíc děsí a myslím si, že to je to opravdové riziko. Ta technologie, řce program, stále funguje "jakž takž". To, že se tomu říká AI je pouhý marketing, protože tohle ještě ani zdaleka AI není. LLM AI není samostatně uvažující inteligence, ale program, který potřebuje vstup, rozumí systému jazyka a analyticky a synteticky reaguje na základě jemu dostupných dat. Po mých už poměrně dlouhých zkušenostech se děsím, co to může lidem nakecat, a co si lidé od AI nechají nakecat. Zajímalo by mě kolik malých i velkých špatností se díky LLM AI už ve světě stalo. Vrcholem všeho je, když vidíte, jak vám Google AI načítá z Reddit, a pak to prezentuje jako seriózní odpověď. :D

"The dumbest person you know is being told "You are absolutely right!" by ChatGPT."

Po pěti letech používání jsem prakticky v bodě, kdy bych tuhletu věcičku mohl utnout stejným způsobem jako dříve Tamagochi. Používám už AI prakticky jenom jako fast wiki pro obecné a životně nevýznamné věci např. historie, filmy a obecně jiné zajímavosti, zábavy a nejjednodušší praktické věci, jako vaření.

Data jsou informace, data nejsou zkušenost, data nemusí být akurátní, ani pravdivá.

Jak jste na tom vy?