Что такое ИИ?

Направление связано с обработкой изображений и видео — обнаружением объектов, обведением объектов по контуру, классификации изображений.

Компьютерное зрение

Обработки текстов, классификация и поиск блоков в тексте, чат-боты, перевод, саммаризация, вопросо-ответные системы и другое.

Natural language processing

Довольно простое направление по классификации или оценке табличных данных — например, скоринг страховки, оценка стоимости квартир и другие похожие задачи.

Обработка табличных данных

Предсказание временных рядов и трендов широко применяется в трейдинге и финансовых бизнес задачах.

Предсказание временных рядов

В этом направлении нейронные сети классифицируют аудио или обнаруживают в аудио типовые паттерны.

Обработка аудио

Продвинутое направление, которое ожидает быстрого роста в 2025—2030 годах. Позволяет нейронным сетям оперативно анализировать свои действия и принимать решения.

Обучение с подкреплением

Speech to text — популярное направление на пересечении аудио и текстов, которое позволяет переводить речь в текст

Распознование речи

Самое быстро развивающееся направление в AI, позволяющее создавать изображения, музыку, стихи, сценарии, дизайн интерьеров и 3D модели.

Генеративные сети

Эволюционное моделирование, которое используется для автоматического подбора архитектуры нейронных сетей, оптимизации задач, логистики и управлении.

Генетические алгоритмы

Позволяет соединить нейронную сеть с конечным софтом, таким как мобильное приложение, сайт, 1С, CRM и др.

Интеграция в production

Упрощенную архитектуру моделей искусственных нейронных сетей, а также биологических нейросетей человека или животного можно рассмотреть на примере обучения простой модели перцептрона.
Перцептрон — это математическая или компьютерная модель, которая имитирует обработку информации в мозге.

Все элементы перцептрона взаимосвязаны, и каждая связь имеет вес — это число, которое определяет, как сигнал будет преобразован. Если в процессе обучения предсказание нейросети отличается от эталонной разметки, то веса автоматически корректируются, чтобы в следующий раз предсказание было более точным. При обучении веса нейронов автоматически изменяются и балансируются по специальным алгоритмам. Если обучение проходит успешно, то можно использовать полученную нейросеть с настроенными весами для классификации новых изображений, которых не было в обучающем датасете.

Архитектура и топология современных ИНС более сложна и обширна. Они имеют несколько слоев ассоциативных элементов, которые позволяют структурировать и ранжировать информацию. У современных моделей десятки и сотни миллиардов параметров, а обучаются они на терабайтах данных.

Процесс обучения нейросети начинается с передачи изображения объекта с S-элементов на А-элементы из обучающего датасета (набора данных), например, изображения собаки.

Затем полученный сигнал преобразуется и передается на следующий слой R-элементов, которые проводят предсказание типа объекта на изображении. Полученный результат сравнивается с эталонной разметкой.

S-A-R

Достижения в области языковых моделей могут быть неустойчивыми, и именно это происходит с большими языковыми моделями. Ответы, которые они дают, неотличимы от ответов людей, а список тестов, которые может пройти GPT-4, впечатляет своими масштабами. Однако такие алгоритмы не лишены недостатков, которые иногда ставят под сомнение их практическое применение.

Одним из таких недостатков являются «галлюцинации». В машинном обучении этот термин используется для обозначения уверенных ответов, содержащих ложные факты, которых не было в обучающих данных. Проще говоря, языковая модель может изобретать факты для заданного запроса.
Точно так же, как учащиеся, которым не рекомендуется отвечать «я не знаю», будут пытаться придумать ответ на месте, так и нейронные сети. Они не просто выдумывают факты, а делают это очень правдоподобно.

Один из способов борьбы с «галлюцинациями» — научить модель отвечать «Я не знаю».

Решение проблемы «галлюцинаций» генеративной модели является постоянной проблемой как для разработчиков, так и для исследователей. Однако пользователи также могут сыграть жизненно важную роль в повышении точности модели в соответствии с реальностью. Задача управления этими галлюцинациями кажется сложной, но все должны работать вместе, чтобы эффективно справиться с ними.

Успешная работа с языковыми моделями в значительной степени зависит от наличия правильно написанного промта (запроса) в качестве эмпирического правила. Однозначные точки должны быть целью четких инструкций для этих моделей, чтобы они работали наилучшим образом. Полезным инструментом является предоставление примеров выполнения задачи с последующими запросами, похожими на первоначальную задачу.

Если вы хотите узнать, «галлюцинирует» ли модель, один из способов — попросить модель сгенерировать ответ несколько раз. Если модель предлагает разные ответы на одинаковые запросы, она, вероятно, испытывает этот нейронный феномен.

OpenAI сообщила о разработке нового метода обучения для искусственного интеллекта. Он помогает бороться с проблемой «галлюцинаций», изменяя систему мотивации, чтобы награда выдавалась за каждый правильный шаг рассуждений, а не только за финальный правильный ответ. Однако данные об исследовании пока не раскрыты, и проблема «галлюцинаций» остается актуальной. Это интересный подход для борьбы с недостатками текущих систем обучения искусственного интеллекта.