На этой неделе OpenAI выпустила новейшие модели искусственного интеллекта o3 и o4-mini, способные рассуждать, используя загружаемые пользователями фотографии. На практике они обрезают, вращают и увеличивают снимки, даже размытые и искажённые, и проводят их тщательный анализ. Расширенные возможности анализа сделали ChatGPT мощным инструментом для поиска местоположения.
Рассуждающая модель OpenAI o3, установили пользователи соцсети X, хорошо проявила себя в задаче по определению представленных на снимков городов, достопримечательностей и даже заведений общепита по едва заметным визуальным подсказкам. Во многих случаях ИИ обходится без анализа прошлой переписки с пользователем и без геолокации в метаданных. ChatGPT демонстрируют меню ресторанов, снимки окрестностей, фасады зданий и свои селфи и якобы предлагают сыграть в GeoGuessr, когда нужно угадывать местоположения по панорамам в «Google Картах».
Возникают очевидные вопросы о конфиденциальности: гипотетический злоумышленник может сделать снимок экрана при просмотре Instagram✴ Stories какого-либо пользователя и раскрыть информацию о нём с целью последующей травли и других противоправных действий. На деле эта функция ChatGPT работала ещё до выхода o3 и o4-mini, обратил внимание ресурс TechCrunch: его журналисты попробовали провернуть тот же трюк с версией чат-бота на основе модели GPT-4o — она давала преимущественно те же результаты и отвечала быстрее. Модель o3 как более мощная чаще давала правильно ответы, но иногда были и сбои.
В отчётах о безопасности для моделей o3 и o4-mini компания OpenAI о таком их применении не упомянула. Но дала развёрнутый комментарий ресурсу TechCrunch: «OpenAI o3 и o4-mini привнесли в ChatGPT визуальные рассуждения, сделав его более полезным в таких областях как специальные возможности, исследования или определение местоположения при реагировании на чрезвычайные ситуации. Мы провели работу над тем, чтобы обучить наши модели отклонять запросы на выдачу частной или конфиденциальной информации, добавили меры безопасности, призванные не дать модели идентифицировать частных лиц на изображениях; мы активно отслеживаем и принимаем меры против злоупотреблений нашими политиками конфиденциальности».