Czwarte seminarium sztucznej inteligencji i transformacji cyfrowej zostało poświęcone zagadnieniu automatycznego wykrywania fake news. Podczas spotkania zostały zaprezentowane wyniki projektu OpenFact, opracowywanego na UEP.

W procesie transformacji cyfrowej pojawia się szereg wyzwań. Są one szczególnie widoczne, gdy przyglądamy się coraz głębszym poziomom cyfryzacji od cyfryzacji nośników danych, poprzez zmianę sposobu i miejsca wykonywania pracy, aż po opracowywanie i wdrażanie nowych modeli biznesowych.

W ramach artykułu naukowego przeprowadzono eksperyment mający na celu zbadanie, w jakim stopniu treści generowane przez GenAI mogą być uznane za wiarygodne (nie zawierające fałszywych informacji) oraz jak łatwo jest zmanipulować GenAI do produkcji fałszywych informacji.

Podczas mędzynadrodowej konferencji KES 2024 zostały przedstawione dwie prace: "Exploring the Challenges and Potential of Generative AI: Insights from an Empirical Study" oraz "Supporting fact-checking process with IT tools".

Przedstawione przez polskich naukowców prace dotyczyły różnych metod, które zostały opracowane w ramach konkursów w obszarze wiarygodności informacji, oceny weryfikowalności tekstów, analizy wieloautorskiego stylu pisania oraz wykrywania zagrożeń w Internecie.

Kluczową kwestią było sprawdzenie, czy możliwe jest rozpoznanie różnic w stylu pisania. Metoda opracowana przez zespół OpenFact polegała na wprowadzeniu tagów stylometrycznych bezpośrednio do tekstu. W efekcie prac powstał artykuł, opisujący zastosowane podejście.

Projekt OpenFact realizowany przez naukowców z Katedry Informatyki Ekonomicznej uzyskał najwyższą liczbę punktów i pozytywną ocenę po drugiej fazie projektu. Tym samym powtórzył swój sukces sprzed roku, kiedy po fazie pierwszej również został najlepiej oceniony wśród wszystkich zespołów.