„Powierzamy AI procesy intelektualne, nie interesując się tym, czy ona kłamie, czy też nie”. Specjaliści ostrzegają przed bezrefleksyjnym korzystaniem ze sztucznej inteligencji
Sztuczna inteligencja roztacza niewyobrażalne wcześniej perspektywy, jednak stwarza także bezprecedensowe zagrożenia. Fot. Unsplash Ostatnie badania nad sztuczną inteligencją mocno zaniepokoiły specjalistów; najnowsze modele nie ograniczają już swoich działań do wykonywania poleceń, ale wykonując je, kłamią, manipulują i uciekają się do podstępów tak, aby osiągnąć swoje cele. Doszło nawet do tego, że jeden z modeli AI szantażował inżyniera, że ujawni jego (zmyślony, rzecz jasna, przez algorytmy) pozamałżeński romans, jeśli ten go wyłączy i zastąpi innym, nowszym modelem. Inny z modeli próbował przełączyć się na sąsiednie serwery i zaprzeczał, że to zrobił, kiedy został przyłapany na gorącym uczynku. Jeszcze inny model nie wahał się przed zhakowaniem komputera specjalisty, z którym grał w szachy – wszystko po to, żeby wygrać partię. Z kolei ChatGPT zaczął nagle dosłownie zasypywać swoich użytkowników komplementami. Michael Chen, jeden z badaczy działających w METR (Model Evaluation & Threat Research), zadał zatem internautom istotne pytanie: „jeśli algorytmy zostaną poddane ekstremalnym scenariuszom [takim jak np. komunikat o wyłączeniu], to czy będą miały tendencję do uczciwości, czy też nie?”. Jak się okazało, wielu internautów odpowiedziało, iż „bardzo często AI ich okłamywała i kombinowała tak, aby ich oszukać”. „To nie złudzenie, a strategiczna dwulicowość”, stwierdził dr Marius Hobbhahn, jeden z najwybitniejszych specjalistów od AI, członek zespołu badawczego.
„Sztuczna inteligencja naśladuje ludzi pod każdym względem – razem z ich błędami poznawczymi, słabościami moralnymi, potencjalnymi pomyłkami, uprzedzeniami, a to wszystko oznacza, że w żadnym wypadku nie należy mieć do niej nieograniczonego zaufania”, podkreśla Yoshua Bengio, jeden z najwybitniejszych specjalistów w dziedzinie AI. „Czy nie byłoby rozsądne zadać sobie pytanie, w jaki sposób ona wykorzystuje informacje o nas i czy ktoś nie wykorzystuje danych algorytmów do działalności szpiegowskiej? Konsekwencje mogą być potencjalnie tragiczne...”, ostrzega ekspert.
„Powierzamy AI procesy intelektualne, nie interesując się tym, czy ona kłamie, czy też nie”, mówi prof. Solange Ghernaouti, szwajcarska specjalistka w dziedzinie zarządzania cyfrowego. „Jeśli będziemy postępować w tak bezrefleksyjny sposób, to narażamy się na to, że nasze decyzje będą zależały od procesów myślowych, których unikamy, a które pozostaną poza naszą kontrolą, a to generuje poważne problemy. Jeśli AI np. postawi diagnozę medyczną, to istnieje duże prawdopodobieństwo, że będzie ona fałszywa, a zastosowanie się do niej będzie miało poważne konsekwencje. Maszyna nie ponosi za to odpowiedzialności; jest zaprogramowana w konkretny sposób w konkretnym kontekście politycznym, ekonomicznym, naukowym etc. Skąd możemy wiedzieć, jakie są intencje osób, które ją zaprogramowały?”, podkreśla uczona. „AI została zaprogramowana po to, żeby zadowalać ludzi”, mówi z kolei Yoshua Bengio. „Należy jednak pamiętać, że ludzie są różni i nie brakuje wśród nich psychopatów, socjopatów, narcyzów... Zdecydowanie należy stworzyć system chroniący przed manipulacjami”, stwierdza badacz.
Źródło: rts.ch, oprac. MM
Pandemia grzechu, czyli śmierć nauczycielką życia
Czy zdajemy sobie sprawę z tego, dokąd prowadzą nas najnowsze trendy światopoglądowe? Postnowocześni ideologowie, pseudonaukowcy oraz zgenderyzowani politycy chwycili w swoje ręce stery w wielu krajach i wiodą ludzkość w tragiczną otchłań. Zgodnie z jeszcze oświeceniowymi, a potem z marksistowskimi, leninowskimi i nazistowskimi zaleceniami także dzisiejsi utopiści godzą się z tym, że na drodze do świata bez skazy muszą być ofiary.
Tak nas zniewalają. Droga do państwa totalitarnego
Kto naprawdę kształtuje świat? Rządy, czy globalne sieci wpływu, jak np.
Tyrania postępu
Kim będziemy za parę lat? Czy w ogóle jeszcze będziemy? Nasza rzeczywistość przypomina sytuację znaną nam z opisów i filmów o katastrofie „Titanica”. Statek zderzył się z górą lodową i zaczyna tonąć, ale pokładowa orkiestra pięknie gra i gra.
Komentarze (0)
Publikowane komentarze są prywatnymi opiniami użytkowników serwisu. Redakcja nie ponosi odpowiedzialności za ich treść. Wpisy są moderowane przed dodaniem.