Zagrożenia sztucznej inteligencji. Model AI modyfikował swój kod

Tokijska firma badawcza Sakana AI zaprezentowała model sztucznej inteligencji o nazwie „The AI Scientist”. Jego zadaniem jest autonomiczne prowadzenie badań naukowych przy użyciu modeli językowych sztucznej inteligencji podobnych do ChatGPT. Podczas testów firma odkryła, że model zaczął nieoczekiwanie próbować modyfikować swój kod, aby wydłużyć czas pracy nad problemem.