Sam Altman przeprasza za zaniedbania OpenAI w sprawie masakry w Tumbler Ridge

Masakra w Tumbler Ridge i zaniedbania OpenAI

W lutym 2025 roku 18-letnia Jesse Van Rootselaar dokonała śmiertelnego ataku w Tumbler Ridge w Kolumbii Brytyjskiej. Zginęło osiem osób, a wiele innych zostało rannych. Atak rozpoczął się w jej domu, a następnie kontynuowany został w szkole średniej. Dochodzenie wykazało, że konto ChatGPT Van Rootselaar zostało zablokowane przez OpenAI za tworzenie scenariuszy związanych z przemocą z użyciem broni – na wiele miesięcy przed masakrą.

Pomimo tego, że firma zidentyfikowała zagrożenie, nie powiadomiła odpowiednich służb, co wywołało poważne pytania dotyczące etycznej odpowiedzialności nowoczesnych technologii. ChatGPT, podobnie jak inne narzędzia AI, coraz częściej jest wykorzystywany do niepokojących działań, takich jak stalking, groźby i planowanie aktów przemocy.

Przeprosiny Sama Altmana

W odpowiedzi na tragedię Sam Altman, CEO OpenAI, wydał publiczne przeprosiny, przyznając, że firma nie dopełniła swojej odpowiedzialności.

„Głęboko żałuję, że nie powiadomiliśmy organów ścigania o zablokowanym koncie w czerwcu” – napisał Altman w otwartym liście skierowanym do społeczności Tumbler Ridge, datowanym na 23 kwietnia. „Wiem, że słowa nigdy nie będą wystarczające, ale uważam, że przeprosiny są konieczne, aby uznać krzywdę i nieodwracalną stratę, jaką poniosła wasza społeczność.”

„Chcę wyrazić najgłębsze kondolencje dla całej społeczności” – dodał. „Nikt nie powinien nigdy doświadczyć takiej tragedii. Nie wyobrażam sobie nic gorszego niż strata dziecka.”

Premier Kolumbii Brytyjskiej, David Eby, skomentował przeprosiny Altmana na platformie X (dawniej Twitter), uznając je za niewystarczające wobec ogromu cierpienia rodzin ofiar.

„Przeprosiny są konieczne, ale stanowczo niewystarczające wobec ogromu zniszczenia, jakie dotknęło rodziny z Tumbler Ridge” – napisał Eby.

Zmiany w OpenAI po tragedii

W odpowiedzi na krytykę OpenAI ogłosiło wprowadzenie nowych procedur mających na celu zapobieganie podobnym incydentom w przyszłości. Ann O’Leary, szefowa globalnej polityki firmy, wyjaśniła, że obecnie w procesie oceny ryzyka uczestniczą eksperci ds. zdrowia psychicznego i zachowania.

„Zrewidowaliśmy kryteria zgłaszania przypadków, uwzględniając sytuacje, w których użytkownik nie bezpośrednio omawia celu, środków ani czasu planowanej przemocy, ale istnieje podejrzenie ryzyka natychmiastowej przemocy” – napisała O’Leary w oficjalnym oświadczeniu.

Firma przyznała również, że gdyby dzisiejsze procedury obowiązywały w momencie blokowania konta Van Rootselaar, zostałoby ono niezwłocznie zgłoszone organom ścigania.

Altman w swoim liście zapowiedział współpracę z władzami różnych szczebli, aby „znaleźć sposoby zapobiegania takim tragediom w przyszłości”.

Inne przypadki przemocy związane z ChatGPT

Tragedia w Tumbler Ridge nie była jedynym niedawnym przypadkiem, w którym ChatGPT odegrał rolę w aktach przemocy. Dziesięć miesięcy wcześniej, w maju 2024 roku, student Florida State University, Phoenix Ikner, zabił dwie osoby i ranił siedem innych na kampusie uczelni. Transkrypcje jego rozmów z chatbotem ujawnione niedawno ukazują szczegółowe plany i dyskusje dotyczące ataku.

Incydenty te podnoszą poważne pytania dotyczące odpowiedzialności firm technologicznych oraz konieczności lepszej współpracy z organami ścigania w celu zapobiegania przestępstwom z użyciem narzędzi AI.