← Назад к статьям

Ошибается ли ИИ, или Как правильно настроить функции с искусственным интеллектом

Ошибка робота с искусственным интеллектом

В последние годы нейросетевые технологии стремительно набирают обороты, делая гигантские скачки в развитии. Чем выше качество работы искусственного интеллекта, тем в большем числе сфер начинают его использование для решения различных задач. Однако ни для кого не секрет, что ИИ — это всё-таки искусственный интеллект, поэтому для качественного результата нужно уметь с ним обращаться, тщательно исследуя выдачу нейросети. Пишет ли выпускник дипломную работу или использует программист помощь нейросетки для написания кода, последствия ошибки могут быть, как минимум, неприятными, а для сфер, связанных с безопасностью, и вовсе катастрофическими. Давайте же разберёмся, допускает ли ИИ ошибки и как правильно настроить функции с искусственным интеллектом так, чтобы обеспечить максимальную эффективность.
 

ЧАСТЬ 1. ОШИБАЕТСЯ ЛИ ИИ

Если кратко, то да, конечно, ИИ ошибается. Это подтверждают и ставшие уже мемом проблемы искусственного интеллекта с генерацией изображений человека с нормальным количеством пальцев. Попросите нейронку помочь с переводом, и без нужного контроля она, скорее всего, ошибётся со стилем или подбором слов. Попросите нейронку составить список вакансий, подходящих вам, и профессору нет-нет, да и предложат пойти в повары. Посадите искусственный интеллект определять тип объектов, и вполне вероятно, что при определённых условиях ИИ перепутает кошку с собакой. Попробуйте надиктовать текст, и вместо «как дела» вы имеете все шансы получить «кадиллак». До сих пор сгенерированные искусственным интеллектом фотографии и посты довольно легко отличить от настоящих благодаря не только характерным деталям, но и характерным ошибкам.

У тех, кто регулярно работает с нейросетями, вопроса «Ошибается ли ИИ?» не возникает. Возникает другой: «Как настроить всё на максимально эффективную работу так, чтобы помощь искусственному интеллекту минимизировать количество ошибок, а в идеале и вовсе их избежать?» Чтобы ответить на этот вопрос, надо понимать, как ИИ устроен. Об этом порассуждаем в следующей главе.

 

  Фотография, где искусственный интеллект перепутал кошку с собакой

-«Искусственный интеллект скоро захватит весь мир!»
Тем временем искусственный интеллект:
 

 

ЧАСТЬ 2. КАК УСТРОЕН ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

Если подходить к этому вопросу философски, то искусственный интеллект во многом похож на интеллект человеческий: это комбинация теории, множества примеров, которые мы называем опытом, и додумок. Как человек понимает, что перед ним яблоко? Мы судим по виду, запаху, форме предмета и сравниваем с тем, что мы знаем о яблоках, и тем, как выглядели яблоки, с которыми мы когда-либо сталкивались вживую, в книгах, на телеэкранах и т.п. А если эти все характеристики не совсем подходят под ситуацию, то мы анализируем: «Если это не яблоко, то что?» Так же и искусственный интеллект: он знает о предмете то, что ранее освещалось в материалах, которые ему предоставили или к которым есть доступ в режиме реального времени. Обычно нейросеть обучают на массивах данных, на немыслимых множествах примеров, которые зачастую берутся из сети. И корректность работы ИИ «по умолчанию» основывается как раз на качестве этих материалов, что в сегодняшнем мире, полном противоречивой информации и фейков, может быть проблемой.

Так что же делать, чтобы повысить качество работы ИИ, теперь, когда мы знаем, как работает ИИ?
 

ЧАСТЬ 3. КАК ПРАВИЛЬНО РАБОТАТЬ С ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ

Учитывая всё вышесказанное, чтобы нивелировать ошибки нейросети, можно пойти двумя путями:

1. С помощью более детального описания задачи (так называемого «промпта») стараться максимально чётко дать понять ИИ, что от него требуется сделать и какую заведомо ложную информацию исключить. Например, для исследований можно попросить нейросеть ограничиться проверенными источниками и предоставлять подтверждение своих слов, а для создания контента не скупиться на детали не только того, что должно быть в результирующем материале, но и на описание того, чего быть не должно.

2. Самим обучать нейросеть на тех материалах, качество которых вас устраивает. Современные производители моделей ИИ иногда предоставляют возможность тренировать нейросеть самостоятельно. Компания может «скормить» такой нейросетке свой сайт и создать чат-бот, который будет помогать посетителям найти нужный раздел, а в идеале и сразу ответ на свой вопрос. Основной минус такого подхода — это мощность требуемого оборудования. Да, к сожалению, на данный момент для того, чтобы нейросеть обучалась и работала на вашей стороне, требуется весьма мощное оборудование, которое может быть не по карману не то что частному пользователю, но даже и некоторым компаниям.

Есть и третий, секретный путь, касающийся прикладного применения ИИ, например, в видеонаблюдении: выбирать производителей и продукты, у которых высокий уровень качества обучения. В этой статье мы сосредоточились на самостоятельном, непосредственном применении нейросетевых технологий конечными пользователями, но не стоит забывать, что ИИ — это не только языковые модели от таких гигантов как Google или Alibaba. Искусственный интеллект очень часто используется и в разного рода программах и приложениях, для которых разработчики сами создают и обучают нейросети для функций с ИИ. Программы для видеонаблюдения (такие как Xeoma) предоставляют распознавание объектов, людей, событий, звуков, осуществляемое с помощью искусственного интеллекта, и работает оно так же: компания-производитель «тренирует» нейросеть на узнавание нужного элемента, предоставляя теорию и практику, включая примеры из реальной жизни (фотографии, видеоролики, аудиопримеры). Вы можете выбрать продукт и производителя, качество которых вам известно и которое вас устраивает. Например, в Xeoma есть возможность запросить дотренировку под ваш проект, которая будет учитывать особенности ваших камер и искомых объектов.

Но это ещё не всё! Продвинутые решения с ИИ позволяют вам повлиять на качество работы искусственного интеллекта, не только полагаясь на профессионализм разработчиков, но и с помощью грамотной настройки. Об этом поговорим ниже.
 

ЧАСТЬ 4. БОРЕМСЯ С ОШИБКАМИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С ПОМОЩЬЮ ПРАВИЛЬНЫХ НАСТРОЕК

Продвинутые программные продукты отличаются не только высококачественным «обучением» своих инструментов с искусственным интеллектом, но также и предоставляемой пользователям возможностью повлиять на качество распознавания с помощью правильной настройки.

Отличным примером является программа для видеонаблюдения Xeoma, которая уже давно переросла свою начальную категорию «инструменты для безопасности» и теперь предоставляет также возможности для оптимизации и автоматизации бизнес-процессов. Помимо прочих просто хороших функций, Xeoma включает несколько десятков инструментов для продвинутой видеоаналитики — от обнаружения людей до преобразования речи в текст и реакции на заданные фразы. Прежде всего, для их работы есть общие рекомендации. Банальный пример: чтобы успешно распознавать объекты типа животных, видеокамера должна предоставить поток, где их фигура хорошо видна (в том числе и без размытия на стоп-кадре), а чтобы распознавать речь — важно расположить микрофон рядом с источником звука и максимально исключить шумы. Некоторые инструменты ожидаемо имеют требования к оборудованию: к примеру, двойная аутентификация Xeoma работает на всех поддерживаемых программой операционных системах, а детектор касок — только на 64-битных, при этом детектор падений и подсчёт посетителей ресторана, помимо этого, работают сугубо на определённом ряде процессоров.
 

Но и на этом способы, как правильно настроить функции с искусственным интеллектом, не заканчиваются! Поскольку каждый искомый «объект» имеет свои особенности, то и каждый инструмент, направленный на работу с этим объектом, будет отражать эти особенности в своих требованиях. Так, для распознавания автономеров есть свой минимальный размер номерной таблички, с которым может работать Xeoma, для детекции скопления людей требуется особый угол обзора, позволяющий видеть головы, а для обнаружения возгораний желателен контрастный фон. Свои настройки есть в большинстве случаев и «внутри» модуля: так, распознаватель текста предлагает выбрать модель от самой простой до модели с максимальной эффективностью (и самой большой нагрузкой), распознаватель автономеров — страну или страны, номерную табличку которых требуется распознавать, а распознаватель лиц — дистанцию, на которой стоит «ожидать» лицо, чтоб позволит не искать лица в объектах вдалеке.

Как же узнать, как правильно настроить функции с искусственным интеллектом? Прежде всего, непосредственно в настройках самого инструмента содержится информация и советы. Помимо этого, у Xeoma есть как общее руководство пользователя, статьи-инструкции по настройке, так и обучающие видеоролики, в том числе и касающиеся интеллектуальных функций. Это не помогло? Отзывчивая техподдержка Xeoma всегда ответит на ваши вопросы и посоветует лучшее решение. Помимо этого, производитель Xeoma старался сделать программу и её составляющие не только качественно работающими по умолчанию, но и интуитивно понятными, так что даже у новичка есть все шансы разобраться и без внешних информационных материалов.
 

  Инструкция по настройке распознавания лиц с искусственным интеллектом

Рекомендации, как правильно настроить функцию распознавания лиц с искусственным интеллектом в программе для камер Xeoma
 

 

Как видите, на вопрос «Ошибается ли ИИ?» ответ нашёлся довольно легко. А вот ответ на вопрос «Как правильно настроить функции с искусственным интеллектом» требует «персонального» подхода, поскольку решение зависит от типа ИИ-инструмента. Например, в программе видеонаблюдения и решения задач благодаря компьютерному зрению Xeoma более 30 интеллектуальных видеоаналитических функций, которые можно (и нужно) правильно настроить, учитывая их особенности и направленность. А если вы любите практический подход, то можно попробовать все возможности с искусственным интеллектом и без бесплатно — для этого воспользуйтесь формой ниже.
 

 

ПОПРОБУЙТЕ XEOMA БЕСПЛАТНО

Попробуйте Xeoma с бесплатной тестовой лицензией на редакцию Xeoma Pro и Дополнительные модули. Для этого введите, пожалуйста, ваш email, на который необходимо прислать демо лицензию, и ваше имя в поля ниже и нажмите на кнопку «Получить лицензии на email».



Мы призываем вас не использовать email-адреса, содержащие персональные данные, и не присылать нам персональные данные иным способом. Если ваша информация содержит персональные данные, то, отправляя данную форму, вы даёте своё согласие на обработку персональных данных
 

 

23 мая 2025

Читайте также:
Искусственный интеллект для поиска подозрительного поведения
Решение бизнес-задач в системах видеонаблюдения с помощью видеоаналитики и искусственного интеллекта
Дополнительные модули в Xeoma