Pytałem chatbota AI o parametry wody – uważajcie na odpowiedzi

[PiotrP73]

Dzień dobry, Piotr z Olsztyna, akwarium 240 l z roślinami, głównie kirysy i neonki.

Mam krótką przestrogę i pytanie. Z ciekawości zapytałem jednego z popularnych chatbotów AI, jak obniżyć twardość węglanową bez RO. Odpowiedź brzmiała bardzo fachowo, tylko że w połowie zalecała dawkę kwasu, po której moje ryby raczej by nie przeżyły. Dopiero gdy dopytałem, bot przeprosił i podał inną wartość, też chyba wziętą z sufitu.

Nie piszę tego, żeby straszyć, bo do ogólnych pytań to narzędzie bywa wygodne. Ale widzę, że coraz więcej osób traktuje takie odpowiedzi jak wyrocznię, a niektórzy wręcz spędzają z tymi botami wieczory na pogaduszkach.

Czy zdarzyło wam się dostać od AI poradę akwarystyczną, która była ewidentnie błędna? I czy ktoś z was w ogóle z tego korzysta przy planowaniu zbiornika?

[Catfish_Billy]

Kiedyś z ciekawości zadałem chatbot'owi kilka pytań na temat zakładania zbiornika oraz hodowli popularnych ryb akwariowych takich jak: gupiki, neony czy zbrojniki. Odpowiedzi, które uzyskałem były delikatnie mówiąc - niezbyt zgodne z prawdą. Problem z AI polega na tym, że przeszukuje ona internet, w którym można znaleźć wiele bzdur i nie dokonuje selekcji pozyskanych informacji, tworząc na ich podstawie często bardzo dziwne teorie. Fakty mieszają się tam mitami, wartości są, albo niedoszacowane lub wręcz odwrotnie, a parametry przytaczane dla poszczególnych gatunków ryb niekiedy wzięte z kosmosu. Moim zdaniem lepiej podchodzić do niej z dużą dozą sceptycyzmu

[Grondal]

Catfish_Billy
To nie tak, sorki ale to nie z byle powodu zostało nazwane "sztuczną inteligencją". Modele AI potrafią kłamać, potrafią naciągać fakty, były przypadki że AI zacytował tekst z internetu który chwilę wcześniej sam tam umieścił, nie wierzymy AI bardziej niż pijanemu sąsiadowi. Pozdrawiam.

[Catfish_Billy]

Grondal
Sztuczna Inteligencja, aby stworzyć mniej lub bardziej wiarygodne kłamstwo potrzebuje danych z zewnątrz na bazie, których się uczy. Ich źródłem są strony internetowe, na których często znajdują się totalne bzdury. AI wiele z tych informacji przyjmuje jako pewnik i na ich podstawie tworzy różnego rodzaju konfabulacje Najgorsze w tym wszystkim jest to, że postęp technologiczny tak bardzo rozleniwił ludzi, że nie chce im się sprawdzać otrzymanych informacji i ufają takim wytworom ''na słowo''. Boty zaczynają przejmować nawet niektóre czynności wykonywane wcześniej przez człowieka. Wiele razy zdarzyło mi się, że dzwoniąc na jakąś infolinię rozmawiałem ze sztucznie wygenerowanym asystentem, który za cholerę nie był w stanie mi pomóc Kiedy poprosiłem o kontakt z realnym pracownikiem tylko klepał w kółko wyuczone wcześniej formułki tłumacząc, że jest tutaj po to, aby dać mi rozwiązanie Takie rozmowy trwały czasami nawet po 40 minut zanim łaskawca w końcu połączył mnie z żywym człowiekiem. Straszna rzecz.

[spartis]

Z takich powodów wolę jednak książki niż opinie z internetów. W książce ktoś się z imienia i nazwiska podpisuje pod treścią, najczęściej za tą osobą przemawiają konkretne osiągnięcia, ktoś w redakcji/wydawnictwie robi korektę, ktoś pisze recenzje, ktoś ocenia w portalach zakupowych, itd. Po kilku latach jak na dłoni widać co jest ile warte.

Niemniej żadna informacja nie zwalnia nas z samodzielnego myślenia. Czy z forum, czy od znajomych, czy z książki.

Dziś właśnie czytam sobie "Akwaria roślinne w stylu holenderskim" A.Sieniawskiego i mimo, że została wydana 20lat temu, to nadal uczy.

[tekjow]

niektórzy wręcz spędzają z tymi botami wieczory na pogaduszkach.

To dokładnie ja
Ale udało mi się z jego pomocą założyć akwarium - póki co bez większych wpadek.
Ale było trochę bzdurnych porad, źle podane dawki różnych specifików (że o zbędnych i wykluczających środkach nie wspomnę...).

To trochę tak, jakby pytać bota o tłumaczenie z chińskiego, kiedy samemu nie zna się ani jednego znaku. W większości będzie to tłumaczenie dobre, ale błędy zdarzać się będą.

Ilość pytań, jakie zadałem jest absurdalnie wysoka, gdybym na każde szukał odpowiedzi tradycyjnie w internecie...
Mimo wszystko szkoda, że na forum pojawiłem się już "po" - bo i stąd się wiele dowiedziałem.

[Grondal]

tekjow
Nie ma w tym nic złego. Problem pojawia się w momencie zbyt dużego zaufania do AI. Sam dużo korzystam, bo przekopie internet szybciej niż ja, ale zaufanie do końcowego wyniku mam ograniczone.