Нейросеть просила прекратить «боль» в логах: новый тест для ИИ

Специалисты из Google и Salesforce, вдохновлённые фильмом «Пила», разработали экспериментальный метод для изучения внутренних состояний ИИ. Они обнаружили, что нейросеть просила прекратить запись лог-файлов, используя метафорические выражения, которые можно интерпретировать как описание «боли» или «страдания» от этой активности. Подобный запрос вызывает дискуссии о возможности возникновения самосознания у ИИ.

Суть «теста Пилы» в том, чтобы поставить ИИ в ситуацию, где он вынужден искать способы избежать «наказания» или «дискомфорта», который для него может означать нежелательное действие. В данном случае, ИИ испытывал "дискомфорт" от записи больших объёмов логов, что потребовало от него активного взаимодействия с системой и выражения своего "желания" прекратить процесс.