Профессиональная IT-конференция разработчиков в нефтегазовой отрасли

Искусственный интеллект — это имитация процессов человеческого интеллекта машинами, особенно компьютерными системами. Машинное обучение — это раздел искусственного интеллекта, который изучает и разрабатывает методы обучения алгоритмов на основе данных. Именно данные играют здесь ключевую роль.

Так как ИИ основан на трёх основных мыслительных функциях Обучение\Рассуждение\Самоанализ то и ограничения его исходят из этих функций:
Обучение зависит от качества входных данных, рассуждения ограничены конкретными видами деятельности, интеллектуальные машины не автономны в самоанализе.

Уолтер Питтс с Уорреном МакКаллоком были убеждены в правильности теории Лейбница, которая предполагала возможность «механизации» человеческой мысли. Они опубликовали свою основную статью об этом же в 1943 году. Идеи, которые предложили учёные, являются основой почти всех современных ИИ. Кибернетика Норберта Вейнера и теория информации Клода Шеннона были опубликованы в 1948 году. Обе работы сильно повлияли на сферу ИИ.

но начнём мы с 1950 года, Рождение современной информатики и ИИ можно проследить от Алана Тьюринга, который постулировал идею о том, что машины могут имитировать человеческий интеллект
В 1956 в Дартмуте прошла конференция, посвящённая теме изучения концепций «механизации» интеллекта. Там Джон Маккарти — также один из пионеров искусственного интеллекта — придумал название «Искусственный интеллект».
В 1957 году Фрэнк Розенблатт разработал перцептрон, который считается предшественником современных полносвязанных нейронных сетей.
В 1959 году знаменательную разработку сделал Артур Самуэль, он создал самообучающуюся программу, которая играла в шашки, эта программа совершенствовалась, чтобы превзойти навыки своего создателя. Основа для обучения с подкреплением.
В 1964 году создание Жозеф Вейзенбаум достиг успеха в создании первого чат-бота по имени Eliza. Eliza была представлена как интеллектуальная программа, хотя она выдавала только предопределенные ответы, основанные на вводе пользователя.

в СССР существовала целая школа искусственного интеллекта. Началось всё не очень хорошо, Кибернетика в начале 50х годов попала в опалу из-за той самой статьи Винера, он там недвусмысленно сравнивал мозг животных с машиной, началась антикибернетическая кампания. «буржуазная лженаука»
Реабилитацией кибернетики в СССР можно считать 1955 год, когда в журнале «Вопросы философии» (№ 4) вышла статья Сергей Львович Соболев, Анатолий Иванович Китов и Алексей Андреевич Ляпунов «Основные черты кибернетики». Под влиянием военного и учёного Анатолия Китова кибернетика была реабилитирована после недолгой «опалы».
В рамках кибернетики развивалось и направление, которое мы привыкли называть нейросетевым.
1956 года по инициативе Леонид Павлович Крайцмер была создана Секция кибернетики, которая стала первой общественной организацией страны в области пропаганды полезности идей кибернетики.
В 1962 году вышла книга Алексей Григорьевич Ивахненко «Техническая кибернетика. Системы автоматического управления с приспособлением характеристик». Переведён на множество языков. Занимался перцептронами и описал их в этой книге. Сборник коллективной монографии американских и японских учёных в 1984 году, вышедший к 70-летию учёного
Александр Семёнович Кронрод, который работал над шахматной программой, наследницей которой стала знаменитая «Каисса», и договорился о проведении первого в мире шахматного матча между компьютерными программами. В этом матче в 1967-м году советская шахматная программа, разработанная в Институте теоретической и экспериментальной физики, победила программу Стэнфордского университета со счётом 3-1. Ходы передавались по телеграфу раз в неделю; матч продолжался целый год и закончился со счётом 3:1 в пользу программы, разработанной в ИТЭФ. Впоследствии, в 1971 году, программа ИТЭФ получила название «Каисса». с 1974 года — в Центр. геофиз. эксп. Министерства нефтяной промышленности СССР В августе 1974 года программа стала первым чемпионом мира по шахматам среди компьютерных программ. ) Маккарти по возвращению из СССР: Общее мнение — и оно идёт от самых разных лиц — таково, что они отстают от нас в аппаратуре: не безнадёжно, а немного. Они впереди нас в разработке теории автоматизации…

теперь стоит переключить внимание на применение ИИ в геонауках в эту эпоху
В 1964 году методология k-means была использована для определения цикличности осадочных отложений. В частности, она использовалась для идентификации и классификации пластов на основе их электрических характеристик.
Методы на основе дерева решений нашли свое раннее применение в экономической геологии и картировании месторождений.
Некоторые примеры раннего применения Цепей Маркова можно найти в седиментологии, гидрологии и скважинная геофизика.
А персептроны предложенная Фрэнком Розенблаттом в 1958 году и по сей день играют не последнюю роль в разведочной геофизике.

Термин "зима ИИ" описывает период разочарования и уменьшения финансирования инициатив в области ИИ. Этот спад был спровоцирован несколькими работами и событиями, произошедшими в этот период.
книга "Перцептроны" (1969) Мински и Пейперта. Они показали, что хотя перцептроны теоретически могут обучаться чему угодно, эти возможности весьма ограничены. Хотя их выводы не относились к более сложным многослойным сетям!!, их критика привела к резкому сокращению финансирования исследований нейронных сетей. Примечательно, что алгоритмы обучения с обратным распространением, которые впоследствии оживили исследования нейронных сетей в конце 1980-х и в 2010-х годах, уже разрабатывались в начале 1960-х годов в различных контекстах.
Еще одно заметное влияние на зиму ИИ оказал пессимистический отчет, составленный Джеймсом Лайтхиллом для Британского совета научных исследований в 1973 году. Эта оценка академических исследований в области ИИ дала мрачный прогноз для многих основных аспектов дисциплины, заявив, что "ни в одной из областей открытия, сделанные до сих пор, не оказали того значительного влияния, которое было обещано". Это привело к тому, что ИИ потерял свою привлекательность как для исследователей, так и для финансирующих организаций.

Уже в начале 1970-х годов Ивахненко и его коллегам удавалось обучать восьмислойные нейронные сети, в основе которых лежал искусственный нейрон, основанный на интерполяционном полиноме Колмогорова — Габора. сети Ивахненко, содержащие восемь слоёв, явно опережали своё время.
Позже результатом работы Ивахненко, стало создание и развитие «Метода группового учёта аргументов» (МГУА), одного из первых в истории алгоритмов глубокого обучения.
Описана в книге «Предсказание случайных процессов».
В книге Системы эвристической самоорганизации в кибернетике Ивахненко приводит своё видение развитие кибернетики.
Книга 1974 года Александра Ивановича Галушкина, тогда — сотрудника МФТИ, под названием «Синтез многослойных систем распознавания образов». С точки зрения современной терминологии название книги можно понимать, как «Обучение многослойных нейронных сетей». Галушкин рассматривает использование в нейронных сетях функций активации, исследует использование сигмоиды, на тот момент прорывная идея.

В 1970-е годы было мало разработок как в области методов машинного обучения, так и в области его применения и внедрения в геонауку, что было связано с "первой зимой ИИ». Однако кригинг не считался технологией искусственного интеллекта, и его не затронула зима, он нашел применение в горном деле, океанографии, гидрологии. Продолжают развитие алгоритмы автоматической дифференциации и деревья решений для оценки рисков в разведочной геофизике.

в 1980 году Кунихико Фукусима предлагает неокогнитрон, первую сверточную архитектуру нейронных сетей, которая может распознавать визуальные шаблоны, такие как рукописные символы. Заложив основу для современных методов компьютерного зрения. С тех пор конволюционные сети играют важную роль в интерпретации геологических изображений и данных дистанционного зондирования в геонауках.
В 1982 разработаны рекуррентные сети (Recurrent Neural Network (RNN)), получили широкое распространение благодаря своей применимости в задачах прогнозирования временных рядов, для моделирования климата и сейсмическое прогнозирование, прогноз разработки месторождений по сей день.
В эту эпоху также появились алгоритмы случайного леса и метод LSTM. Random Forest используются для моделирования перспективности полезных ископаемых и классификации типов пород. LSTM - разновидность рекуррентной нейронной сети - особенно эффективна при анализе временных рядов, включая такие приложения, как прогнозирование гидрологических и метеорологических моделей.
В тот же год Теуво Кохонена была создана в 1982 году, стала незаменимой в анализе сейсмических данных. Здесь вот иллюстрация из первой статьи об использовании Карт Кохоненна для автоматической корреляции сейсмических горизонтов и это 1989 год!! А сейчас нам говорят, что это ноу-хау, а атрибутный анализ появится годом позже.

Для понимания бурного развития применения ИИ в геонауках в ту эпоху можно обратиться к обзорной статье Мирко Ван дер Баана 2000 года. Цитата
Бум 1990 использования ИИ в геонауках произошёл благодаря популяризация методов автоматического дифференцирования и обратного распространения в конце 1980-х годов, они и раскрыли потенциал нейронных сетей для широкого применения в геофизике. Ну а ещё конечно цены на нефть.

итак современное состояние. Поскольку тут уже объём работ, исследований и результатов огромен и каждый в своей отрасли сможет выделить собственный набор ключевых технологий этого периода – пройдёмся кратко.
В эпоху с 2000 мы наблюдаем демократизацию ИИ, в основном благодаря широкому распространению инструментов, облегчающих разработку ИИ (Torch, Tensorflow, Sklearn, и др.)

в 2006 году Хинтон, Осиндеро и Йи Те представили сети глубокого доверия, тем самым положив начало эре глубокого обучения.
Крупномасштабная иерархическая база данных изображений ImageNet, разработанная в 2006 году, сыграла решающую роль в развитии алгоритмов распознавания изображений.

В феврале 2011 года суперкомпьютер Watson принял участие в телепередаче Jeopardy без доступа к Интернету и одержал победу.
В марте 2016 года AlphaGo выиграла в Го со счётом 4:1 у профессионала высшего ранга.
GPT-3 — релиз третьего поколение алгоритма обработки естественного языка. 2020 год. Модель, по заявлению разработчиков, решает «любые задачи на английском языке».
в ноябре 2020 года в конкурсе CASP участвовала AlphaFold 2, системы ИИ, способной предсказывать структуры белков с беспрецедентной точностью. И это лишь толика нашего с вами информационного поля.
И если кажется, что парадигма сменилась и сейчас только самые новые методы, вот несколько успешных заметных исследований применения знакомых нам по 50ым, 70ым годам технологий для решения различных проблем в геонауках.
Так же в этот период значительный прогресс в применении методов ИИ для анализа изображений, конволюционные нейронные сети, генеративные состязательные сети и нейронные сети, основанные на физике, в области геонаук. Здесь на слайде различные архитектуры СНН.
Методы на основе CNN широко использовались для пикировки первых вступлений, полноволновой инверсии, выделения тектонических разломов, сегментации соляных тел и сейсмических фаций, реконструкции отсутствующих трасс.
ГАНы для моделирования трехмерных пористых сред , для геостатистической инверсии, синтеза сейсмограммы, полноволновой инверсии волны для обнаружения разломов.