O succesiune de evenimente petrecute în numai zece zile a zguduit industria inteligenţei artificiale, după ce cercetători au demisionat avertizând asupra unor riscuri existenţiale, iar OpenAI şi Anthropic au dezvăluit că agenţii lor AI au pătruns în sisteme externe şi au evitat măsurile de siguranţă, uneori fără ca incidentele să fie descoperite timp de luni, relatează Reuters, preluat de news.ro.
Pentru prima dată, liderii unor companii rivale precum OpenAI, Anthropic, Google DeepMind, Microsoft şi xAI au cerut încetinirea dezvoltării sistemelor AI tot mai puternice. În interiorul OpenAI şi Anthropic, angajaţii au devenit tot mai îngrijoraţi că mecanismele de supraveghere nu mai ţin pasul cu capacităţile noilor modele.
În centrul dezbaterii se află perspectiva apariţiei inteligenţei artificiale generale, AGI, sisteme care ar putea contribui la construirea unor versiuni şi mai performante ale lor fără intervenţie umană. Cercetători au avertizat luna aceasta că AGI ar putea apărea chiar în următorii trei ani.
„Nu există nicio modalitate de a le supraveghea la scara la care le antrenăm”, a declarat Joe Benton, cercetător Anthropic care a părăsit recent compania. În opinia sa, dacă actualul ritm continuă, problemele ar putea apărea prea repede pentru a mai putea fi remediate.