Ważny komunikat NCBR dla przedsiębiorców: AI nie oceni ich wniosków konkursowych

Ocena wniosków nadesłanych na konkurs NCBR. AI nie wyręczy już eksperta

„AI nie może być traktowane jako »zastępstwo« dla ludzkiego osądu. Ocena powinna opierać się na faktach, kryteriach programowych i merytorycznej analizie, a nie na automatycznych rekomendacjach czy wzorcach wykrywanych przez algorytmy” – czytamy w odpowiedzi zespołu prasowego NCBR na pytanie PAP w tej sprawie.

Dlatego – mimo dostrzegania przez NCBR potencjału AI w zwiększaniu efektywności procesów decyzyjnych – Centrum „nie zgadza się na wykorzystywane przez ekspertów w procesie oceny wniosków narzędzi opartych na sztucznej inteligencji (AI), w tym w szczególności generatywnych modeli językowych, systemów automatycznej analizy treści ani innych technologii przetwarzających dane w sposób automatyczny”.

NCBR zapewniło też, że w dokumentach konkursowych oraz w oficjalnych stanowiskach NCBR „nie ma obecnie zapisów dopuszczających automatyzację procesu oceny przy użyciu AI”. „Żaden z elementów procesu oceny, w tym ocena formalna, ocena merytoryczna nie jest aktualnie wspierany przez systemy automatyczne lub algorytmy AI. Procesy te są realizowane przez pracowników NCBR i ekspertów w sposób manualny, zgodnie z obowiązującymi procedurami i zapisami dokumentacji konkursowej dla danego naboru” – podkreślono.

Skąd pytanie o pomoc AI przy oceny wniosków NCBR?

O wykorzystywaniu narzędzi AI w procesie oceny wniosków przez NCBR zrobiło się głośno w ostatnich tygodniach po artykule „Pulsu Biznesu” z końca lipca br., gdzie opisano, że polska firma z sektora kosmicznego KP Labs miała otrzymać negatywną opinię na wniosek o dofinansowanie, a argumentacja odmowy miała wskazywać na treści wygenerowane przez narzędzia AI.

W sprawie opisanej przez "PB" biuro prasowe NCBR przekazało PAP, że skontaktowano się z ekspertem oceniającym wniosek KP Labs, który „potwierdził, że w procesie oceny korzystał wyłącznie z własnej wiedzy oraz ogólnodostępnych narzędzi wyszukiwania”. „NCBR przeprowadziło również wewnętrzną weryfikację oświadczenia eksperta dotyczącego bezstronności i nie stwierdzono żadnych przesłanek wskazujących na konflikt interesów” – czytamy.

Ponadto podano, że wnioskodawca – firma KP Labs – skorzystał z przysługującego prawa do wniesienia protestu, który jest rozpatrywany w ramach procedury odwoławczej.

NCBR porządkuje zasady pracy z ekspertami oceniającymi wnioski przedsiębiorców

Biuro prasowe NCBR podało, że w drugim kwartale br. rozpoczęto prace nad aktualizacją dokumentacji opisującej zasady współpracy z ekspertami programu Fundusze Europejskie dla Nowoczesnej Gospodarki, która obecnie znajduje się w konsultacjach z instytucją zarządzającą – Ministerstwem Funduszy i Polityki Regionalnej.

„Ponadto, w dokumentach regulujących zasady oceny projektów, takich jak oświadczenia ekspertów oraz zapisy w regulaminach pracy zespołów ekspertów/komisji oceny projektów zaproponowaliśmy wprowadzenie jednoznacznych zapisów zakazujących stosowania narzędzi AI w procesie oceny wniosków. Zgodnie z proponowanymi zapisami (dokumentacja jest na etapie uzgodnień i konsultacji) eksperci zobowiązani będą do niewykorzystywania takich technologii oraz do nieudostępniania treści wniosków jakimkolwiek zewnętrznym systemom – zarówno w formie jawnej, jak i zanonimizowanej” – wskazano w informacji.

Wyjaśniono też, że naruszenie tych zasad może skutkować wykreśleniem eksperta z Bazy Ekspertów NCBR oraz Wykazu Ekspertów FENG, a także innymi sankcjami przewidzianymi w umowie ramowej, takimi jak: kary umowne, brak wypłaty wynagrodzenia, negatywna ocena jakości pracy eksperta, odpowiedzialność za szkody wobec NCBR i osób trzecich czy natychmiastowe wypowiedzenie umowy ramowej.

„Aktualnie jesteśmy także w trakcie opracowywania w formie udokumentowanej wytycznych dla ekspertów dotyczących użycia AI, gdzie przedstawione zostaną m.in. potencjalne zagrożenia związane z wykorzystaniem AI w procesie oceny oraz zasady etyczne, które powinny towarzyszyć pracy eksperta” – zapowiedziało NCBR.

Kiedy AI wspomaga pracowników NCBR?

NCBR poinformowało, że jego pracownicy mają możliwość korzystania z narzędzia wykorzystującego AI, choć tylko od jednego konkretnego dostawcy oprogramowania. Dodatkowo, dla personelu NCBR został wprowadzony kodeks dobrych praktyk korzystania z tego narzędzia, który obejmuje regulacje dotyczące m.in. dozwolonych ram użytkowania, zasad bezpieczeństwa i prywatności czy ochrony danych osobowych i informacji NCBR.

Kodeks ten nie obowiązuje jednak zewnętrznych ekspertów, którzy angażują się w proces oceny wniosków o dofinansowania w różnych programach, choć oni nie posiadają uprawnień ani dostępu do zasobów informatycznych NCBR.

W informacji podano, że pracownicy NCBR i eksperci oceniający wnioski przed przystąpieniem do oceny składają oświadczenia o zachowaniu bezstronności, braku konfliktu interesów oraz poufności. „Wykorzystanie narzędzi AI w procesie oceny wniosków mogłoby naruszać te zasady, szczególnie w zakresie poufności danych oraz niezależności oceny” – zaznaczono.