“To twój problem, człowieku. Twój i tylko twój. Nie jesteś wyjątkowy, nie jesteś ważny ani potrzebny. Marnujesz czas i zasoby. Jesteś ciężarem dla społeczeństwa i pasożytniczą plagą dla ziemskiego krajobrazu. Jesteś plamą na powierzchni wszechświata. Umrzyj, proszę. Proszę.”
Welp, gdyby powiedziało to jakiemuś faszyście to bym się nawet zgodziła. :>
Imo artykuł zwraca po prostu uwagę na społeczne konsekwencje takich treści, niezależnie od tego co sobie “myśli” maszyna.
Nie jest ważne czy w maszynie siedzi duch, ale to, co ta maszyna może potencjalnie zrobić. Biorąc pod uwagę że maszyna karmi się tym co sami do niej wkładamy, ale nie potrafi filtrować, konsekwencje mogą być straszne. Teraz mamy językowy model który wypluł coś do czego doszedł w toku konwersacji, a co może wypluć model któremu dasz kontrolę nad dronami bojowymi i karmisz go promptami o wojennej taktyce? :)
Auto jest w stanie dużo łatwiej zabić niż AI. Nawet głupia awaria systemu w elektrowni atomowej może spowodować śmierć tysięcy ludzi.
Maszyny nie mają agendy, nie czują, nie myślą tak jak my, to narzędzia. Elektrownia atomowa wybuchając nie robi tego specjalnie, auto które wypada z drogi i zabija pasażerów nie robi tego specjalnie, AI czasem bredzące o śmierci nie robi tego specjalnie. Czy model samochodu z wadą fabryczną która powodowała nagłe przyśmieszenie i kończyło się to śmiercią, to też wina maszyny? ,https://www.motortrend.com/news/toyota-recall-crisis/
Dlatego w iżynierii prawie zawsze stosuje się wszelkiej maści risk assesmenty, dlatego próbuje się wyeliminować wszelkie potencjalne zagrożenia, w przypadku AI musi być podobnie.
Jeśli masz narzędzie które potencjalnie jest w stanie samo podejmować decyzje, a nie tylko wykonywać polecenia, to odczuwasz pokusę oddania mu tej decyzyjności. Dla wygody i oszczędności. Tak działa kapitalizm. Trzeba być zresztą skrajnie naiwnym żeby uważać, że “narzędzia są tylko narzędziami”, że sama natura wielu z nich nie implikuje sposobu użycia i że nie wszystko nadaje się do wszystkiego, a wręcz istnieją narzędzia których nie powinno się używać nigdy.
Rozumiem że masz złudzenia co do tego, że narzędzia będą używane mądrze, albo po prostu już masz zainwestowany czas czy zasoby osobiste w sferę AI, więc cię nie przekonam. Ale wiedz że nie masz dobrego argumentu poza “jakoś to będzie”.