Badanie o ChatGPT wycofane z powodu poważnych błędów

Badanie, które twierdziło, że narzędzie OpenAI, ChatGPT, może pozytywnie wpływać na procesy uczenia się, zostało wycofane przez wydawnictwo Springer Nature niemal rok po jego opublikowaniu. Powodem wycofania były „rozbieżności w analizie” oraz „brak pewności co do wniosków” – mimo to artykuł zebrał setki cytowań i był szeroko rozpowszechniany w mediach społecznościowych.

„Złoty standard” obalonego badania

Autorzy badania przedstawili bardzo atrakcyjne dla mediów tezy dotyczące korzyści wynikających z używania ChatGPT w edukacji. Według Bena Williamsona, starszego wykładowcy z Centre for Research in Digital Education oraz Edinburgh Futures Institute na Uniwersytecie w Edynburgu, wiele osób traktowało ten artykuł jako jedno z pierwszych „twardych dowodów” na to, że generatywna sztuczna inteligencja, w tym ChatGPT, przynosi korzyści uczniom.

Jakie błędy zostały wykryte?

Opublikowana analiza miała na celu ocenę wpływu ChatGPT na „wyniki uczenia się, postrzeganie nauki oraz myślenie wyższych rzędów” na podstawie wyników 51 wcześniejszych badań. Metaanaliza porównywała grupy eksperymentalne, które korzystały z ChatGPT w edukacji, z grupami kontrolnymi, które nie używały tego narzędzia. Jednakże, jak wskazało wydawnictwo, wnioski te okazały się nieuzasadnione.

Dlaczego wycofano badanie?

Wydawnictwo Springer Nature nie ujawniło szczegółów dotyczących błędów w metodologii, ale podkreśliło, że „nie ma zaufania do przedstawionych wniosków”. To rzadki, ale nie pierwszy przypadek wycofania artykułu naukowego z powodu problemów z wiarygodnością badań opartych na sztucznej inteligencji.

Reakcja środowiska naukowego

Wydarzenie to ponownie podkreśla konieczność rygorystycznej weryfikacji badań naukowych, szczególnie w dziedzinie szybko rozwijającej się technologii AI. Eksperci zwracają uwagę na rosnące ryzyko publikowania nieprzemyślanych lub nieprawidłowo przeprowadzonych badań, które mogą wprowadzać w błąd opinię publiczną i decydentów.

„Badanie to było traktowane przez wielu jako jedno z pierwszych twardych dowodów na korzyści płynące z używania ChatGPT w edukacji. Jego wycofanie pokazuje, jak ważna jest ostrożność w interpretacji wyników badań naukowych, zwłaszcza w kontekście nowych technologii.”

— Ben Williamson, Uniwersytet w Edynburgu

Konsekwencje dla badań nad AI w edukacji

Wycofanie badania może mieć wpływ na postrzeganie badań nad sztuczną inteligencją w edukacji. Choć narzędzia takie jak ChatGPT zyskują na popularności, środowisko naukowe musi zachować szczególną ostrożność, aby unikać publikowania wyników, które mogłyby wprowadzać w błąd. To także sygnał dla wydawców czasopism naukowych, aby wzmacniać procesy recenzji i weryfikacji badań.

Źródło: Ars Technica