Стивен Гроссберг - Stephen Grossberg
Стивен Гроссберг | |
|---|---|
 Гроссберг в июле 2016 года.
| |
| Родился |
31 декабря 1939 г.
Нью-Йорк , Нью-Йорк
|
Стивен Гроссберг (родился 31 декабря 1939 г.) - когнитивист , теоретический и вычислительный психолог , нейробиолог , математик , биомедицинский инженер и нейроморфный технолог. Он является профессором Ванга когнитивных и нейронных систем и почетным профессором математики и статистики, психологии и науки о мозге, а также биомедицинской инженерии в Бостонском университете .
Карьера
ранняя жизнь и образование
Гроссберг сначала жил в Вудсайде, Квинс , в Нью-Йорке . Его отец умер от лимфомы Ходжкина, когда ему был один год. Он переехал со своей матерью и старшим братом Митчеллом в Джексон-Хайтс , Квинс. Затем он посещает среднюю школу Стуйвесант в нижнем Манхэттене после сдачи конкурсных вступительных экзаменов. Он окончил Стуйвесант первым в своем классе в 1957 году.
Он начал учебу в Дартмутском колледже в 1957 году, где впервые задумал парадигму использования нелинейных дифференциальных уравнений для описания нейронных сетей, моделирующих динамику мозга, а также основные уравнения, которые сегодня используют многие ученые для этой цели. Затем он продолжил изучать психологию и нейробиологию. В 1961 году он получил степень бакалавра в Дартмуте в качестве первого специалиста по математике и психологии .
Затем Гроссберг поступил в Стэнфордский университет , который он окончил в 1964 году со степенью магистра математики и перешел в Институт медицинских исследований Рокфеллера (ныне Университет Рокфеллера ) на Манхэттене. Гроссберг получил докторскую степень по математике от Рокфеллера в 1967 году за диссертацию, которая доказала первые теоремы о глобальной адресной памяти о моделях нейронного обучения, которые он обнаружил в Дартмуте. Руководителем его докторской диссертации был Джан-Карло Рота .
Вход в академию
Гроссберг был принят на работу доцентом прикладной математики в Массачусетском технологическом институте после настойчивых рекомендаций Каца и Роты. В 1969 году Гроссберг был назначен доцентом после публикации серии концептуальных и математических результатов по многим аспектам нейронных сетей.
Не получив должностей в Массачусетском технологическом институте, Гроссберг в 1975 году был принят на должность профессора в Бостонском университете, где он до сих пор работает на факультете. Во время учебы в Бостонском университете он основал кафедру когнитивных и нейронных систем, несколько междисциплинарных исследовательских центров и различные международные институты.
Исследовать
Гроссберг - основатель области вычислительной нейробиологии , коннекционистской когнитивной науки и нейроморфных технологий. Его работа сосредоточена на принципах и механизмах проектирования, которые позволяют поведению людей или машин автономно адаптироваться в реальном времени к неожиданным экологическим проблемам. Это исследование включало нейронные модели зрения и обработки изображений ; изучение объектов, сцен и событий, распознавание образов и поиск; прослушивание, речь и язык; когнитивная обработка информации и планирование; обучение с подкреплением и когнитивно-эмоциональные взаимодействия; автономная навигация; адаптивное сенсомоторное управление и робототехника ; самоорганизующаяся нейродинамика ; и психические расстройства . Гроссберг также сотрудничает с экспериментаторами в разработке экспериментов, которые проверяют теоретические предсказания и заполняют концептуально важные пробелы в экспериментальной литературе, проводит анализ математической динамики нейронных систем и переносит биологические нейронные модели в приложения в инженерии и технологиях. Он опубликовал семнадцать книг или специальных выпусков журналов, более 500 научных статей и имеет семь патентов.
Гроссберг изучал , как мозг приводит к умам , так как он взял вводный курс психологии как на первом курс в Дартмуте колледже в 1957 году в то время, Гроссберг ввел парадигму использования нелинейных систем из дифференциальных уравнений , чтобы показать , как мозговые механизмы могут привести к поведенческому функции. Эта парадигма помогает решить классическую проблему разума / тела и является основным математическим формализмом, который сегодня используется в исследованиях биологических нейронных сетей. В частности, в 1957–1958 гг. Я открыл широко используемые уравнения для (1) краткосрочной памяти (STM) или нейрональной активации (часто называемой аддитивной и шунтирующей моделями или моделью Хопфилда после того, как в 1984 году Джон Хопфилд применил аддитивную модель. уравнение); (2) среднесрочная память (MTM), или привыкание, зависящее от активности (часто называемое гейтами привычного передатчика или подавляющими синапсами после введения этого термина Ларри Эбботтом в 1997 г.); и (3) долговременная память (LTM) или нейронное обучение (часто называемое стробированным обучением наискорейшего спуска). Один вариант этих обучающих уравнений, названный Instar Learning, был введен Гроссбергом в 1976 году в теорию адаптивного резонанса и самоорганизующиеся карты для изучения адаптивных фильтров в этих моделях. Это уравнение обучения также использовалось Кохоненом в своих приложениях самоорганизующихся карт, начиная с 1984 года. Другой вариант этих уравнений обучения, названный Outstar Learning, использовался Гроссбергом, начиная с 1967 года, для обучения пространственным образцам. Обучение Outstar и Instar было объединено Гроссбергом в 1976 году в трехуровневую сеть для изучения многомерных карт из любого m-мерного входного пространства в любое n-мерное выходное пространство. Это приложение было названо компанией Hecht-Nielsen в 1987 году "Контрраспространение".
Основываясь на своей докторской диссертации Рокфеллера 1964 года, в 1960-х и 1970-х годах Гроссберг обобщил аддитивные и шунтирующие модели на класс динамических систем, который включал эти модели, а также ненейронные биологические модели, и доказал теоремы адресуемой памяти для этого более общего класс моделей. В рамках этого анализа он представил функциональный метод Ляпунова, который помогает классифицировать ограничивающую и колебательную динамику конкурентных систем, отслеживая, какая популяция выигрывает во времени. Этот метод Ляпунова привел его и Майкла Коэна к открытию в 1981 году и публикации в 1982 и 1983 годах функции Ляпунова, которую они использовали для доказательства существования глобальных пределов в классе динамических систем с симметричными коэффициентами взаимодействия, который включает аддитивную и шунтирующую модели. Джон Хопфилд опубликовал эту функцию Ляпунова для аддитивной модели в 1984 году. Большинство ученых начали называть вклад Хопфилда моделью Хопфилда. В 1987 году Барт Коско адаптировал модель Коэна-Гроссберга и функцию Ляпунова, которые доказали глобальную сходимость STM, для определения адаптивной двунаправленной ассоциативной памяти, которая объединяет STM и LTM и которая также глобально сходится к пределу.
Гроссберг представил и разработал вместе со своими коллегами фундаментальные концепции, механизмы, модели и архитектуры по широкому спектру тем, касающихся мозга и поведения. Он сотрудничал с более чем 100 аспирантами и докторантами.
Модели, которые Гроссберг представил и помог разработать, включают:
- основы исследования нейронных сетей: соревновательное обучение , самоорганизующиеся карты , возрастные категории и маскирующие поля (для классификации), outstars (для обучения пространственным образцам), лавины (для последовательного обучения и производительности), стробированные диполи (для обработки оппонентов) ;
- перцептивное и когнитивное развитие, социальное познание, рабочая память, обработка когнитивной информации, планирование, численная оценка и внимание: теория адаптивного резонанса (ART), ARTMAP, STORE, CORT-X, SpaN, LIST PARSE, lisTELOS, SMART, CRIB;
- визуальное восприятие, внимание, изучение объектов и сцен, распознавание, прогнозирующее переназначение и поиск: BCS / FCS, FACADE, 3D LAMINART, aFILM, LIGHTSHAFT, Motion BCS, 3D FORMOTION, MODE, VIEWNET, dARTEX, ARTSCAN, pARTSCAN, dARTSCAN, 3D ARTSCAN, ARTSCAN Search, ARTSCENE, ARTSCENE Search;
- аудиопоток, восприятие, речь и языковая обработка: SPINET, ARTSTREAM, NormNet, PHONET, ARTPHONE, ARTWORD;
- когнитивно-эмоциональная динамика, обучение с подкреплением, мотивированное внимание и адаптивно рассчитанное по времени поведение: CogEM, START, MOTIVATOR; Спектральная синхронизация;
- визуальная и пространственная навигация: SOVEREIGN, STARS, ViSTARS, GRIDSmap, GridPlaceMap, Spectral Spacing;
- адаптивный сенсомоторный контроль движений глаз, рук и ног: VITE, FLETE, VITEWRITE, DIRECT, VAM, CPG, SACCART, TELOS, SAC-SPEM;
- аутизм: iSTART
Карьера и развитие инфраструктуры
Учитывая, что инфраструктура для поддержки областей, в которых развивались он и другие пионеры моделирования, была небольшой или отсутствовала, Гроссберг основал несколько институтов, нацеленных на обеспечение междисциплинарного обучения, исследований и публикаций в области вычислительной нейробиологии, коннекционистской когнитивной науки и нейроморфных технологий. . В 1981 году он основал Центр адаптивных систем в Бостонском университете и остается его директором. В 1991 году он основал факультет когнитивных и нейронных систем в Бостонском университете и был его председателем до 2007 года. В 2004 году он основал Центр передового опыта NSF по обучению в области образования, науки и технологий (CELEST) и был его директором. до 2009 года.
Все эти институты были нацелены на ответ на два связанных вопроса: i) Как мозг контролирует поведение? ii) Как технология может имитировать биологический интеллект?
Кроме того, Гроссберг основал и был первым президентом Международного общества нейронных сетей (INNS), которое за четырнадцать месяцев его президентства выросло до 3700 членов из 49 штатов США и 38 стран. Формирование INNS вскоре привело к образованию Европейского общества нейронных сетей (ENNS) и Японского общества нейронных сетей (JNNS). Гроссберг также основал официальный журнал INNS и был его главным редактором с 1988 по 2010 годы. Neural Networks также является архивным журналом ENNS и JNNS.
Серия лекций Гроссберга в лаборатории Линкольна Массачусетского технологического института положила начало национальному исследованию нейронных сетей DARPA в 1987–88 годах, что привело к повышенному интересу правительства к исследованиям нейронных сетей. Он был генеральным председателем первой Международной конференции IEEE по нейронным сетям (ICNN) в 1987 году и сыграл ключевую роль в организации первого ежегодного собрания INNS в 1988 году, слияние которого в 1989 году привело к Международной совместной конференции по нейронным сетям (IJCNN). который остается крупнейшим ежегодным собранием, посвященным исследованиям нейронных сетей. Гроссберг также является организатором и председателем ежегодной Международной конференции по когнитивным и нейронным системам (ICCNS) с 1997 года, а также многих других конференций в области нейронных сетей.
Гроссберг входил в редколлегию 30 журналов, включая Journal of Cognitive Neuroscience , Behavioral and Brain Sciences , Cognitive Brain Research , Cognitive Science , Neural Computing , IEEE Transactions on Neural Networks , IEEE Expert и International Journal of Humanoid Robotics .
Награды
Награды, присужденные Гроссбергу:
- Премия IEEE Neural Network Pioneer 1991 г.
- 1992 Премия за лидерство INNS
- 1992 Премия Бостонского компьютерного общества в области технологий мышления
- Премия 2000 года в области информатики Ассоциации интеллектуальных машин
- 2002 премия Charles River Laboratories Общества поведенческой токсикологии
- 2003 INNS Премия Гельмгольца.
Членство:
- 1990 член Общества исследования нарушений памяти
- 1994 член Американской психологической ассоциации
- 1996 член Общества экспериментальных психологов
- 2002 член Американского психологического общества
- 2005 г., стипендиат IEEE
- 2008 Первый член Американской ассоциации исследований в области образования
- 2011 сотрудник INNS
Гроссберг получил в 2015 году Премию Нормана Андерсона за заслуги перед обществом экспериментальных психологов «за новаторское теоретическое исследование того, как мозг порождает умы, и за его фундаментальный вклад в вычислительную нейробиологию и коннекционистскую когнитивную науку». Его благодарственную речь можно найти здесь.
Он получил в 2017 году премию Фрэнка Розенблатта Института инженеров по электротехнике и электронике (IEEE) со следующей цитатой: «За вклад в понимание познания и поведения мозга и их имитацию с помощью технологий».
В 2019 году он выиграл премию Дональда О. Хебба от Международного общества нейронных сетей, которая присуждается «за выдающиеся достижения в области биологического обучения».
Теория искусства
Вместе с Гейл Карпентер Гроссберг разработал теорию адаптивного резонанса (ART). ART - это когнитивная и нейронная теория того, как мозг может быстро обучаться, стабильно запоминать и распознавать объекты и события в меняющемся мире. ART предложило решение дилеммы стабильности-пластичности; а именно, как мозг или машина могут быстро узнавать о новых объектах и событиях, не заставляя так же быстро забывать ранее изученные, но все же полезные воспоминания.
ART предсказывает, как полученные нисходящие ожидания фокусируют внимание на ожидаемых комбинациях функций, приводя к синхронному резонансу, который может способствовать быстрому обучению. ART также предсказывает, насколько большое несоответствие между паттернами восходящих функций и нисходящими ожиданиями может привести к поиску в памяти или проверке гипотез для категорий распознавания, с помощью которых можно лучше научиться классифицировать мир. Таким образом, ART определяет тип самоорганизующейся производственной системы.
ART было практически продемонстрировано с помощью семейства классификаторов ART (например, ART 1, ART 2, ART 2A, ART 3, ARTMAP, нечеткий ARTMAP, ART eMAP, распределенный ARTMAP), разработанных с помощью Гейл Карпентер, которые использовались в больших масштабах. приложения в технике и технологиях, где необходимы быстрая, но стабильная, постепенно обучающаяся классификация и прогнозирование.
Новые вычислительные парадигмы
Гроссберг представил и возглавил разработку двух вычислительных парадигм, имеющих отношение к биологическому интеллекту и его приложениям:
Дополнительные вычисления
Какова природа специализации мозга? Многие ученые предположили, что наш мозг обладает независимыми модулями, как в цифровом компьютере. Организация мозга на отдельные анатомические области и потоки обработки показывает, что обработка данных действительно специализирована. Однако независимые модули должны иметь возможность полностью вычислять свои процессы самостоятельно. Многие поведенческие данные опровергают эту возможность.
Дополнительные вычисления (Grossberg, 2000, 2012) касаются открытия того, что пары параллельных потоков корковой обработки вычисляют дополнительные свойства в мозге. Каждый поток имеет дополнительные вычислительные сильные и слабые стороны, как и в физических принципах, таких как принцип неопределенности Гейзенберга. Каждый корковый поток также может иметь несколько этапов обработки. Эти этапы реализуют иерархическое разрешение неопределенности . «Неопределенность» здесь означает, что вычисление одного набора свойств на данном этапе предотвращает вычисление дополнительного набора свойств на этом этапе.
Комплементарные вычисления предполагают, что вычислительная единица обработки мозга, имеющая поведенческое значение, состоит из параллельных взаимодействий между дополнительными корковыми потоками обработки с несколькими этапами обработки для вычисления полной информации об определенном типе биологического интеллекта.
Ламинарные вычисления
Кора головного мозга, центр высшего интеллекта во всех модальностях, организована в многоуровневые цепи (часто шесть основных уровней), которые подвергаются характерным взаимодействиям снизу вверх, сверху вниз и по горизонтали. Как специализации этого общего ламинарного дизайна воплощают различные типы биологического интеллекта, включая зрение, речь и язык, а также познание? Laminar Computing предлагает, как это может происходить (Grossberg, 1999, 2012).
Laminar Computing объясняет, как ламинарный дизайн неокортекса может реализовать лучшие свойства обработки с прямой связью и обратной связью, цифровой и аналоговой обработки, восходящей обработки данных и нисходящей обработки, основанной на внимательных гипотезах. Внедрение таких конструкций в микросхемы СБИС обещает сделать возможным разработку универсальных адаптивных автономных алгоритмов для множества приложений.