Могут ли корпоративные технологии оправдать себя с помощью генеративного искусственного интеллекта? Вишал Сикка о правильном использовании ИИ и избегании поставщиков змеиного масла генеративного ИИ

В моей предыдущей беседе с доктором Вишалом Сиккой, основателем и генеральным директором популярного стартапа в области искусственного интеллекта Vianai Systems, мы говорили о взлетах и ​​падениях американских горок в области искусственного интеллекта — и Сикка видел многое.

Мы разобрались, почему Сикка подписал это широко непонятое письмо, в котором предупреждалось об опасностях ИИ, и призывал к этой позорной паузе.

Конечно, мы говорили о проблемах LLM, включая галлюцинации и объяснимость: «Нулевая терпимость» к галлюцинациям - доктор Вишал Сикка о том, как Вианаи создает приложения ИИ, и о смешанных эмоциях, связанных с циклом ажиотажа вокруг ИИ. Мы рассмотрели, как Вианаи решает эту проблему в контекст их приложений искусственного интеллекта следующего поколения, таких как:

Но это еще не все. Какой совет Sikka дает клиентам, оценивающим поставщиков генеративного искусственного интеллекта? В конце концов, успех предприятия с помощью генеративного ИИ — это совершенно другой набор прыжков с обруча, чем экспериментирование с ChatGPT в свободное время.

Мой неполный список препятствий для создания корпоративного ИИ: управление рисками, проблемы с данными о клиентах/ценообразованием, черный ящик/объяснимость, смягчение технических ограничений LLM, трудности с использованием сторонних LLM и их настройка с использованием данных обучения клиентов при соблюдении конфиденциальности данных и выборе -результаты, последствия для ценообразования для клиентов, плюсы и минусы вариантов использования и т. д.

Это внушительный список препятствий, и его вряд ли можно назвать полным. И все же, как я сказал Сикке,Я рассматриваю генеративный искусственный интеллект как шанс на искупление корпоративных технологий. . Похоже, что потребительские технологии уже несколько десятилетий опережают корпоративные инновации, а культура приложений для смартфонов является экспонатом А. Но генеративный ИИ остро нуждается в ответственных ограждениях, и все факторы, которые я привел выше, — разве не в этом предприятия преуспевают? ?

Как я сказал Сикке:

На мой взгляд, то, что предприятие навязывает ИИ, — это именно то, что нужно ИИ прямо сейчас, а именно такие вещи, как безопасность, юридический надзор, этический надзор, правильное использование данных. Так, например, одна из вещей, которую Vianai решает, чего нет в ChatGPT, — это различные типы источников данных, которые дадут вам более чистый результат. Я думаю, что с помощью этих инструментов вы также решите некоторые проблемы объяснимости, по крайней мере, с точки зрения того, откуда была получена информация.

Сикка соглашается: «Это возможность для предприятий продемонстрировать лидерство в области надежного и ответственного ИИ». Еще один потенциальный компонент лучшего ИИ? Некоторая форма обучения с подкреплением. OpenAI также использовала грубую версию этого, чтобы положить некоторые «ограждения» предвзятости и фанатизма в ChatGPT, хотя и не без разногласий по поиску рабочей силы. Но теоретически предприятия могут использовать итеративное обучение на моделях, чтобы эксперты в предметной области могли точно настроить желаемые результаты. Как объясняет Сикка, эти подходы также могут повысить доверие пользователей:

Обучение с подкреплением — один из способов сделать это. Другая часть просто разговорная. У моего наставника был такой замечательный трюк: он просил вас: «Позвольте мне воспроизвести это». Допустим, вы задали сложный вопрос. Он говорил: «Давайте я проиграю это; ты хотел задать этот вопрос? Вы можете сказать: «Исправьте это». И тогда он ответит на вопрос. Конечно, это тоже была своего рода уловка, потому что она давала ему время подумать.

Мы делаем это [в Vianai], когда не уверены в намерениях пользователя. Поэтому, если вы зададите вопрос, который включает в себя соединения, сложные внутренние соединения или что-то сложное для нескольких таблиц, мы вернём его перед вами и спросим: «Эй, ты имел в виду это?» И пользователь скажет: «Да, я это имел в виду», или исправит. Итак, это очень простой способ устранения неоднозначности или разъяснения намерений пользователя.

Аналогичным образом, когда мы даем ответ, будь то текстовые данные или структурированные табличные данные, мы предоставляем его пользователям, говоря: «Вот откуда мы получили данные; это был запрос, который был выполнен, и вот какой ответ». Это непросто сделать. Но мы это делаем – и это необходимо предприятиям, чтобы они доверяли результатам, которые вы им ставите.