Сон играет важную роль для человеческого организма. Неслучайно люди могут проводить в этом состоянии до одной трети от всей своей жизни. Так, по мнению специалистов, каждый из нас должен спать не менее 7-8 часов в день.
Дело в том, что пока тело расслабляется и отдыхает, мозг, напротив, усердно трудится. Он запоминает все, чему научился за день, анализирует информацию и реорганизует воспоминания наиболее эффективным образом.
Оказывается, для успешной работы искусственные нейросети, которые в какой-то мере повторяют архитектуру человеческого мозга, тоже нуждаются в отдыхе. Это необходимо для борьбы с «феноменом катастрофического забывания», ситуации, когда нейронные сети записывают новую информацию поверх предыдущей.
Утро вечера мудренее
Сотрудники Калифорнийского университета в Сан-Диего придумали способ как способствовать снижению риска катастрофического забывания в нейросетях и повысить их эффективность в различных научно-исследовательских проектах.
Ученые взяли за основу импульсные нейронные сети, которые имитируют естественные нейронные системы. Информация в них передается в виде дискретных событий, или импульсов, вместо того чтобы поступать непрерывно. Они обнаружили, что благодаря периодам бездействия, которые имитировали сон, удается предотвратить процессы катастрофического забывания. Как и у людей, «сон» нейросети позволяет ей проиграть старые воспоминания, не используя в явной форме старые данные.
Применив человеческий подход к искусственному интеллекту, ученым удалось защитить его от процесса катастрофического забывания. Это значит, что нейросети могут обучаться непрерывно, как люди или животные, но для этого нужно давать им «поспать».