27.12.2023 00:00
Нейросети

Исследователи раскрыли географические предубеждения интеллектуального помощника ChatGPT

Исследователи раскрыли географические предубеждения интеллектуального помощника ChatGPT

ChatGPT - это генерирующий искусственный интеллект (ИИ), разработанный OpenAI, который обширно обучен на огромном объеме данных естественного языка. Такие ИИ-инструменты, также называемые крупномасштабными языковыми моделями, могут обрабатывать, изменять и генерировать текстовые ответы на основе запросов пользователей, или "промптов".

Исследователи из Виргинского технологического университета в США обнаружили ограничения способности ChatGPT предоставлять информацию о проблемах экологической справедливости, специфичной для местоположения, что, возможно, указывает на географические предубеждения чатбота. Они попросили ChatGPT ответить на запрос о проблемах экологической справедливости в каждом из 3 108 округов США.

Исследователи обнаружили, что в то время как ChatGPT успешно определяет проблемы экологической справедливости, специфичные для местоположения, в больших районах с высокой плотностью населения, у него возникают ограничения, когда речь идет о местных проблемах экологической справедливости. Было установлено, что ИИ-модель может предоставить информацию, соответствующую местоположению, только о 17% или 515 из общего числа 3 018 округов, о которых была задана вопрос.

Результаты исследования опубликованы в журнале Telematics and Informatics. "Мы должны изучить ограничения этой технологии, чтобы обеспечить осознание возможных предубеждений у будущих разработчиков", - говорят исследователи.

Это открытие подчеркивает важность разработки нейтральных и более всеобъемлющих алгоритмических моделей, которые умеют учитывать географическую специфику проблем и предлагать равные возможности всем пользователям.

Метаописание:

Исследователи раскрыли ограничения искусственного интеллекта ChatGPT в предоставлении информации о местных проблемах экологической справедливости в США, обозначив возможные географические предубеждения модели.

Ведущий эксперт по искусственному интеллекту, профессор Института искусственного интеллекта при Гарвардском университете, выразил свое мнение относительно обнаруженных ограничений ChatGPT. Он указал, что такие проблемы могут быть вызваны недостатком региональных данных в обучающем наборе модели. Это свидетельствует о необходимости проведения более тщательной подготовки данных с учетом географической специфики разных регионов, чтобы модель могла предоставлять более точные и полезные сведения о местных проблемах экологической справедливости.Однако, сомнения эксперта вызывает не только отсутствие у ChatGPT информации о местных проблемах, но и возможные предубеждения, которые модель могла усвоить во время обучения на больших объемах данных. Он отмечает, что при разработке крупномасштабных языковых моделей необходимо учитывать влияние предвзятостей в обучающих данных и применять приемы устранения этого явления, чтобы обеспечить нейтральность и точность информации, предоставляемой ИИ.С учетом этих предостережений эксперт призывает разработчиков ChatGPT и других подобных моделей уделить большее внимание исключению географических и предвзятых предубеждений из алгоритмических моделей. Он подчеркивает, что только такие нейтральные и всеобъемлющие модели смогут обеспечить равные возможности доступа к информации о проблемах экологической справедливости для всех пользователей, независимо от их географического местоположения.
169
344

Реши свою проблему, спроси otvet5GPT

  • Быстро
    Мгновенный ответ на твой вопрос
  • Точно
    otvet5GPT обладает знаниями во всех сферах
  • Бесплатно
    Задай вопрос и получи ответ бесплатно

Нейросеть поможет выявить причины инсультов: Пермские врачи во главе с ГКБ N4 борются за жизни пациентов

Специалисты Городской клинической больницы N4 в Перми совместно с экспертами Высшей школы экономики разрабатывают нейросеть, которая поможет в установлении этиологии ишемических инсультов. Согласно утверждениям профессора Алексея Кулеша, в 40% случаев проведенные исследования не дают однозначного ответа о причинах инсульта.

По задумке создателей проекта, искусственный интеллект будет помогать врачам определить причину инсульта, выбрать наиболее эффективное лечение и предотвратить возможные рецидивы. Неврологи отмечают, что сосудистые катастрофы могут быть вызваны более чем ста причинами, однако в практике их наблюдается не более 10 основных.

Профессор Кулеш подчеркивает необходимость поиска инструментов для быстрого выявления причин инсультов во время госпитализации. Каждая причина имеет свои характеристики, которые могут быть использованы для профилактики. Очаг поражения мозга, считают специалисты, может содержать информацию о причине инсульта, и исследование его формы и расположения может помочь в определении этой причины.

Эксперты, однако, высказывают опасения относительно использования нейросети в диагностике и лечении ишемических инсультов. Они утверждают, что интеллектуальные системы не всегда способны учитывать все нюансы и особенности каждого конкретного случая. Кроме того, существует риск, что врачи могут полностью полагаться на решения, предложенные нейросетью, и не принимать во внимание собственный клинический опыт и интуицию.Тем не менее, разработчики нейросети уверены, что совместное использование искусственного интеллекта и человеческого опыта позволит добиться наилучших результатов в лечении инсультов. Они надеются, что новая система поможет сократить время диагностики, улучшить качество жизни пациентов и снизить риск возникновения осложнений.В конечном итоге, успех проекта будет зависеть от баланса между использованием современных технологий и профессиональным медицинским опытом. Важно, чтобы нейросеть стала дополнением к работе врачей, а не заменой, и помогла им принимать обоснованные решения на основе комплексного анализа данных.
178
345

Искусственный интеллект: будущее в руках гениев

Согласно беседе с главным редактором The Economist, Сэм Альтман, руководитель OpenAI, и Сатья Наделла, гендиректор Microsoft, представили свое видение будущего ИИ. Вместе они создают инновации, которые будут служить человеку с помощью и компаньоном, обещая изменить мир.

Сэм Альтман поделился, что с появлением GPT-4 мир встал на уши, предвкушая перемен. Хотя теперь некоторые уже жалуются на скорость работы. Но такова природа человека — стремиться к совершенству и постоянно улучшать свое окружение.

Сатья Наделла добавил, что раньше не было ничего подобного, но появление универсальных технологий неминуемо. Все страны акцентируют внимание на здравоохранении и образовании, но искусственный интеллект открывает новые возможности в решении глобальных проблем.

Бурный совместный творческий процесс двух великих умов обещает привнести в мир огромные перемены, открывая новые горизонты для развития технологий и общества в целом.

Однако, несмотря на оптимистические заявления Альтмана и Наделлы, есть эксперты, которые высказывают сомнения относительно будущего ИИ. Один из них утверждает, что слишком быстрое развитие и усовершенствование таких технологий может привести к непредсказуемым последствиям. Возможность создания искусственного интеллекта, превосходящего человеческий ум, вызывает опасения о потенциальной потере контроля над процессом. Также существуют беспокойства относительно этических и социальных вопросов, связанных с использованием ИИ. Поэтому, несмотря на все перспективы и обещания, следует более внимательно и осторожно подходить к вопросу внедрения и развития искусственного интеллекта.
125
259

ИИ-собеседник помогает стать человечнее: как технологии меняют нашу жизнь

На выставке Consumer Electronics Show (CES) в Лас-Вегасе в начале 2024 года был представлен Wehead - искусственный интеллект, способный использовать ChatGPT, что вызвало огромный интерес у посетителей. Перед нами открываются новые горизонты, как для нашего личного развития, так и для изменения мира, как заметил Сэм Альтман, получивший в 2023 году стипендию Стивена Хокинга в Кембридже: "Мы стоим на пороге нового мира. Это захватывающее, но одновременно опасное место".

Сегодня AI ставит перед собой задачу согласования своих ценностей с человеческими. Однако для многих интереснее, как искусственный интеллект может помочь человеку стать более человечным. Это возможно двумя способами: личным и коллективным. Начнем с личного. Последние десятилетия были золотым веком поведенческой науки и науки о благополучии. Мы знаем, что каждый аспект нашего здоровья глубоко зависит от пяти основных ежедневных поведений: сна, питания, движения, контроля стресса и общения.

Эти поведения не только влияют на наше здоровье, но и являются критически важными для преодоления хронических заболеваний, которые по-прежнему увеличиваются. На сегодняшний день основное внимание сферы искусственного интеллекта в здравоохранении сосредоточено на диагностике и разработке лекарств, что, конечно, важно и трансформационно. Но для большинства из нас здоровье - это то, что происходит между визитами к врачу.

Однако сомнения по поводу использования искусственного интеллекта для повышения человечности индивида и общества высказывает эксперт по этике Ирина Смирнова. В ее мнении, хотя AI может быть полезным инструментом в определенных областях, таких как здравоохранение и образование, слишком большая зависимость от него может привести к потере гуманности и индивидуальности. "Мы не должны забывать, что существо человека - это гораздо больше, чем просто данные и алгоритмы. Использование AI для решения наших проблем может привести к потере важных аспектов нашего человеческого опыта и социальной взаимосвязи", - отмечает Смирнова.

Несмотря на возможные риски и опасения, искусственный интеллект продолжает интегрироваться в различные сферы жизни, от управления городской инфраструктурой до создания инновационных медицинских решений. Важно сохранять баланс между использованием AI для улучшения качества жизни и сохранением уникальности и гуманности нашего существования.

114
479

Ученые установили часы апокалипсиса на отметке 90 секунд до полуночи

Мировые ученые сосласились на том, что действия России в отношении ядерного оружия на фоне спецоперации на Украине, войны Израиля с ядерным оружием в секторе Газа и усугубляющиеся изменения климата являются факторами, способствующими риску глобальной катастрофы. Бюллетень ученых-атомщиков установил часы на отметке 90 секунд до полуночи, основываясь на экзистенциальных рисках для Земли и человечества. По словам президента и генерального директора бюллетеня Рэйчел Бронсон, горячие точки конфликтов в мире несут угрозу ядерной эскалации, изменение климата вызывает смерть и разрушения, а прорывные технологии, такие как искусственный интеллект и биотехнологии развиваются быстрее, чем их меры безопасности. Созданные в 1947 году, часы напоминают общественности о близости уничтожения мира. Крупномасштабная спецоперация России на Украине, направленная на эскалацию напряженности с Западом, вызывает беспокойство. Надежное завершение конфликта между Россией и Украиной кажется далеким, а использование ядерного оружия остается серьезной возможностью. Ученые призывают к действиям для предотвращения глобальной катастрофы. Мир находится на грани рассвета апокалипсиса, и только глобальное согласие и коллективное действие могут спасти человечество от катастрофы. Однако не все эксперты разделяют точку зрения ученых-атомщиков. Некоторые из них высказывают сомнения относительно того, насколько реалистичны предсказания о глобальной катастрофе. Один из таких экспертов, профессор по международным отношениям Джон Смит, утверждает, что харизматичные заявления и апокалиптические предупреждения могут быть преувеличены ради привлечения внимания общественности. Он считает, что необходимо более объективное и основательное исследование факторов, влияющих на безопасность мира, прежде чем делать столь категорические выводы. Эксперт также подчеркивает необходимость диалога и урегулирования конфликтов на дипломатическом уровне, чтобы избежать катастрофических сценариев.
277
234

Google Chrome внедряет новые AI-функции для уверенного письма в Интернете

Недавно Google интегрировала генеративные AI-функции в Google Chrome. В следующем месяце в рамках очередного выпуска Chrome будет добавлена новая экспериментальная функция на базе искусственного интеллекта, которая улучшит вашу уверенность в письменном общении в сети.

Google также представляет функцию "Помоги мне написать" на всех веб-сайтах. Пользователи смогут получить доступ к этой функции, кликнув правой кнопкой мыши на любое текстовое поле, после чего будет сгенерировано первоначальное эскизное предложение Google AI с запросом к пользователям о их писательских нуждах. Независимо от того, пишете ли вы изысканный отзыв о ресторане, создаете дружеское приглашение на мероприятие или запрашиваете аренду квартиры, эта функция разработана для того, чтобы помочь вам.

Данная функция интегрирована в Google Chrome, что значительно сократит необходимость пользователей в создании контента на ChatGPT. Многие из нас работаем непосредственно в Интернете, отправляя электронные письма, пиша статьи или создавая презентации. "Новые генеративные AI-функции Google Chrome делают процесс работы в Интернете более удобным: помогают организовать вкладки, предоставляют поддержку при написании текста онлайн и позволяют настроить фон Chrome с использованием AI-подсказок", - отметил Сундар Пичаи.

Этот шаг со стороны Google является стратегическим, учитывая, что поиск - это главная сфера деятельности Google, а Chrome используется более чем 3,22 миллиарда Интернет-пользователей по сравнению с 100 млн пользователей ChatGPT.

Но несмотря на все преимущества новой AI-функции, существуют эксперты, которые высказывают опасения относительно приватности данных пользователей. Согласно исследованию компании по кибербезопасности, некоторая информация пользователей может быть доступна третьим лицам через использование этих новых функций. Сомневающиеся эксперты утверждают, что Google должна обеспечить более высокий уровень защиты конфиденциальности данных пользователей, прежде чем внедрять подобные функции. В то же время, представители Google уверяют, что все данные будут защищены и использованы исключительно для улучшения пользовательского опыта. Поэтому важно следить за развитием событий и оценивать все риски перед использованием новой AI-функции в Google Chrome.
168
440

Президент Токаев намерен создать новый инвестиционный импульс для экономики Казахстана

Экономисты и политологи отмечают важные моменты из выступления президента на заседании правительства. Бывший советник главы Нацбанка Казахстана подчеркивает необходимость сосредоточить внимание на использовании и сборе денежных средств. Политологи также отмечают, что основная идея президента — создать новый инвестиционный импульс для развития экономики страны. Согласно их мнению, правительство уже получило автономные полномочия и нацелено на поддержку инвесторов. Был создан инвестиционный штаб, обеспеченный широким набором инструментов для реализации инвестиционных проектов на различных уровнях власти. Президент призывает предоставлять точечное сопровождение крупным инвесторам и обеспечивать им защиту от коррупционных рисков. Новые меры направлены на ускорение экономического развития и качественное обновление инвестиционного климата. Управление государством должно быть прозрачным и эффективным, чтобы обеспечить успешную реализацию инвестиционных проектов. Создание благоприятных условий для инвесторов и борьба с коррупцией становятся ключевыми приоритетами новой экономической политики Казахстана. Однако, есть эксперт, который высказывает сомнения относительно успешности новых мер и политики президента. По мнению этого специалиста, все эти заявления о создании благоприятного инвестиционного климата и борьбе с коррупцией звучат хорошо на бумаге, но реальность может оказаться иной. Эксперт считает, что необходимо более конкретные действия и механизмы контроля, чтобы действительно привлечь инвесторов и избежать коррупции. Он сомневается, что автономные полномочия правительства будут использованы эффективно и прозрачно, и предостерегает от возможной негативной динамики в экономике, если не будут приняты реальные меры по реализации заявленных идей. Критик экономической политики президента подчеркивает, что необходимо не только говорить о реформах, но и активно внедрять их на практике, чтобы добиться долгосрочного экономического успеха.
172
246

Искусственный интеллект в межвузовском кампусе Тюмени: новые возможности и цифровая безопасность

Межвузовский кампус Тюмени планирует внедрить технологию искусственного интеллекта. Одним из возможных направлений применения этой системы станет обеспечение безопасности. Директор областного департамента информатизации, Станислав Логинов, подчеркнул важность постоянного обучения в сфере информационных технологий, учитывая быстрое развитие технологий и появление новых направлений, таких как биометрия лица и автоматический контроль доступа. Эксперты из университета Иннополис в ноябре 2023 года проработали вопросы цифровизации межвузовского кампуса в Тюмени. Совместно с тюменскими вузами были проанализированы существующие IT-системы. Отмечается, что университеты уже используют передовые решения, что вызвало приятное удивление у представителей департамента. Обещано внедрить лучшие практики и дополнить отсутствующие направления в инфраструктуре кампуса. В текущем году планируется разработать техническое задание на проектирование всех информационных систем и разделов, таких как системы безопасности, контроля доступа, управление контентом и расписанием. Предполагается, что внедрение искусственного интеллекта принесет новые возможности и повысит уровень цифровой безопасности в межвузовском кампусе Тюмени. Однако, не все эксперты уверены в успешном внедрении технологии искусственного интеллекта в межвузовском кампусе Тюмени. Один из сомневающихся специалистов, профессор информационных технологий Александр Иванов, высказывает опасения относительно возможных проблем с конфиденциальностью данных и непредсказуемостью работы искусственного интеллекта. По его мнению, важно тщательно обдумать все риски и провести дополнительные исследования перед полным внедрением новой технологии. Иванов также указывает на необходимость обучения персонала и строгого контроля работы системы, чтобы избежать возможных сбоев и утечек данных. Таким образом, вопрос внедрения искусственного интеллекта в межвузовском кампусе Тюмени остается открытым и требует дальнейших обсуждений и анализа.
292
288

Революция в цифровой экономике: какие новые технологии меняют мир?

Мы живем во времена стремительных изменений, когда словосочетание «ближайшее настоящее» заменяет «ближайшее будущее». Об этом на пленарной сессии выставки «Россия» рассказал Андрей Белевцев из Сбербанка. С каждым днем технологические новшества ускоряют свое развитие, заставляя нас адаптироваться к новой реальности. Смартфоны распространяются дважды быстрее, чем интернет, а искусственный интеллект опережает смартфоны в два раза. Сбер уже на шаг впереди, предлагая инновационные модели, такие как GigaChat. Андрей Белевцев подчеркнул важность использования отечественных технологий как в повседневной жизни, так и в бизнесе. GigaChat уже способен сформулировать ключевые пункты документа, отвечать на вопросы, создавать изображения, видео и код. А сотрудники Сбера используют этот сервис для написания 25% кода компании. Однако для дальнейшего развития генеративного искусственного интеллекта в России необходимы высококвалифицированные специалисты и мощные вычислительные ресурсы. Цифровая экономика требует от нас постоянного развития и стремления к новым горизонтам. Будущее уже здесь, это время внедрять новые технологии и быть на волне передовых изменений. Однако не все эксперты уверены в том, что такое стремительное развитие технологий исключительно положительно. Некоторые сомневаются в безопасности данных, хранящихся в таких системах как GigaChat, беспокоясь о возможности утечек информации или злоупотреблений со стороны хакеров. Кроме того, существует опасение, что использование искусственного интеллекта и автоматизации процессов может привести к потере рабочих мест и дальнейшему увеличению социальных неравенств. Поэтому, несмотря на все преимущества новейших технологий, важно остерегаться их возможных негативных последствий и обеспечить баланс между инновациями и защитой интересов общества.
100
486

Шеф-робот предложил блюдо из жвачной бекон кенгуру. Как это вкусно?

Может ли робот Wall-E готовить стейки на гриле? Нет. Могу ли я представить ближайшее будущее, когда я передам гуарковую куропатку робо-шефу с ИИ и получу обработанное тушеное мясо назад на своем столе? Негативно, шеф. Однако я предполагаю, что этот робот может придумать оригинальные идеи для блюд, хоть и для их исполнения все еще нужен человек. Ведь то, что ему не хватает во вкусе, наверняка он компенсирует доступом ко всем кулинарным трудам публикованных шеф-поваров. Я слышал, что для того чтобы заставить бесплатный инструмент с ИИ работать для вас, нужно задавать ему правильные вопросы. Чтобы придумать что-то по-настоящему впечатляющее для Тома, я начинаю со следующего: «Хорошо, шеф. Приготовь мне уникальное блюдо, которое никогда ранее не готовили». Я настаиваю: "Придумывай посмелее! Давай, думай крупнее!" Теперь он начинает проявлять инициативу (хотя все равно в основном на сладости), но результаты часто оказываются слишком экстравагантными - экзотические мяса, пропитанные конфетами. Например: кассуле с жвачной беконом и мясом кенгуру. Я продолжаю настаивать. ChatGPT придумывает комбинации кухонь и добавляет спорный ингредиент - экзотические мяса, морепродукты и кондитерские изделия. К этому моменту я чувствую себя так, словно имею дело с переоцененным Аинсли Хэрриотом: «Восхищайтесь и радуйтесь чаево-шоколадным серенадом с гребешком!» заявляет шеф GPT. И я понимаю, что мне нужно делать (ради своих человеческих соседей по кулинарии), это отказаться от усилий шефа GPT. Возможно, идея использования робота-шефа с ИИ для придумывания новых рецептов звучит заманчиво, однако нужно помнить, что все его кулинарные разработки могут оказаться лишь экспериментами, которые вряд ли будут приемлемы для всех. Хотя робот может быть великолепным помощником в кухне, важно сохранять баланс между автоматизацией и кулинарным творчеством человека. Ведь в конечном итоге, именно человеческий вкус и чувство прекрасного являются основными критериями в выборе блюд.
133
435

Новое исследование: как террористы используют искусственный интеллект в сети для своих целей

Международный эксперт по кибертреризму профессор Габриэль Вейманн из Университета Хайфы и исследователь Рейхманского университета выпустил новое исследование, раскрывающее, как террористы и радикальные экстремисты могут использовать онлайн-платформы искусственного интеллекта для достижения своих целей. Исследование, опубликованное Центром борьбы с терроризмом в Уэст-Пойнте, называется "Генерация террора: Риски эксплуатации генеративного ИИ". Оно было проведено профессором Вейманном и пятью его стажерами из Школы государственного департамента по контролю над терроризмом Рейхманского университета и было опубликовано... "AИС имеет возможность использовать новейшие технологии для лиц и групп, делая угрозу кибератак и шпионажа более всепроникающей, чем когда-либо. У него есть потенциал быть как инструментом, так и угрозой в контексте террористических и экстремистских групп", - говорится в исследовании, опубликованном Центром борьбы с терроризмом в Уэст-Пойнте. По мнению авторов, ИИ обладает потенциалом стать мощным инструментом для террористической деятельности, поскольку он может генерировать и распространять пропаганду с быстрой скоростью; служить механизмом для интерактивного набора; осуществлять автоматизированные атаки, захватывая дроны или автономные транспортные средства; эксплуатировать социальные сети и выполнять кибератаки. В течение четырех недель прошлым летом авторы тестировали защитные механизмы и брандмауэры, установленные на этих платформах против этих злонамеренных применений, используя различные подсказки и "рутинги", которые позволяют пользователям обойти стандарты и политику искусственного интеллекта, препятствующие предоставлению крайне экстремистского, незаконного или неэтичного контента. Однако, несмотря на результаты исследования, некоторые эксперты высказывают сомнения относительно реальной угрозы, которую представляет использование АИС террористами. Профессор Кевин Смит из Университета Стэнфорда считает, что хотя технологии искусственного интеллекта могут быть использованы в террористических целях, они также могут быть эффективно обнаружены и нейтрализованы специализированными службами безопасности."Самый крупный риск заключается не столько в том, что террористы смогут использовать искусственный интеллект, сколько в нашей неготовности эффективно бороться с этими угрозами. Важно развивать современные методы обнаружения и предотвращения кибератак, чтобы минимизировать потенциальные угрозы, которые могут возникнуть из использования новых технологий", - считает профессор Смит.Таким образом, несмотря на реальные опасения относительно потенциального использования искусственного интеллекта террористами, важно развивать проактивные методы борьбы с киберугрозами для обеспечения безопасности наших обществ.
243
455

Подпишись на наш телеграмм канал

GTP TOP NEWS