人工知能の倫理を実践する取り組み、GuIA がスペインで始まる

GuIA は、OdiseIA (人工知能の社会的および倫理的影響観測所) が推進するイニシアチブであり、スペインにおける人工知能の責任ある倫理的使用を達成するために必要な措置を現実的に実現することを目的としています。

オデッセイ、 国務長官（デジタル化および人工知能担当）、 IBM、 グーグル、 マイクロソフト y テレフォニカ 先週金曜日に開催されたユニークなイベントに結集し、現実的かつ具体的な対策を確立するプロセスの始まりを示しています。

人工知能 (AI) それはすでに製品やサービスに存在している現実です 私たちが毎日消費するもの。 AI は、オンライン ショッピング、映画や曲の推奨、テキストの自動翻訳、デバイスとの会話の際に使用されます。しかし、金融商品や保険に加入するときなど、私たちの生活により重要な影響を与える予測を行ったり、意思決定に参加したりすることもあります。近い将来、私たちは医療診断を受けるときや司法手続きに参加するときにもこの機能を利用することになるでしょう。スペインの企業や組織でこのテクノロジーへの取り組みが増えるにつれて、そのような機能もさらに増えていくでしょう。

しかしAIは それは望ましくない結果ももたらします。。たとえば、少数派、人種、性別に対する差別など、固定観念や悪い社会慣行の永続です。また、一部のアルゴリズムの不透明性、または私たちがこれらのシステムに与えている過剰な自律性も問題です。これらの理由から、技術の進化と並行して、これらのアプリケーションに関連する倫理の開発が非常に必要です。これらのテクノロジーに関連した SF の偏見が、人類に取って代わるロボットや人間を超えるロボットを夢想させる世界では、各分野における AI の実際の概念と用途を確立し、これらの悪影響を防ぐために AI の責任ある使用を保証する取り組みが必要です。

この目的を達成するために、倫理と責任を考慮してスペインで AI を推進するという目的を動機として、人工知能の独立した専門家と国際的に認められた専門家のグループによって設立されたスペインの組織である OdiseIA が誕生しました。

リチャード・ベンジャミンズOdiseIA の共同創設者である OdiseIA の共同創設者は、「近年、AI の倫理原則が急増しており、多くの組織にとって、どの原則が自分たちの分野に最も適​​しているかを知るのは困難です。さらに、これらの原則を日常生活でどのように実装するかについて共有された経験はほとんどありません。これらの経験をビジネス界や行政に広めることが、GuIA イニシアチブの目的です。」と強調しました。

これは「AIに対する否定的な認識に対して倫理、テクノロジー、ビジネスを統合し、これらの原則を適用できるようにする実践的なアプローチとなる、あらゆる分野で垂直化された協力的なプラットフォームになる」と同氏は付け加えた。

この問題は、私たちが人工知能の出現を経験しており、関連する意思決定をし始めている子供や青少年と同様に、ほとんどの分野がまだ成熟しておらず脆弱である現在、特に重要です。 「OdiseIAは、AIの責任ある利用に向けて行動を起こすことを目的として誕生しました。私たちはAIスペインの推進を支援したいと考えていますが、その適用において真の倫理的措置を講じる必要性について企業や組織の認識を促進したいと考えています。この方法でのみ社会的受容が達成され、リスクが最小限に抑えられると彼は指摘します。」 イドイア・サラザール、OdiseIA社長。

サラザール氏は、目的は「コミュニティの創設、社会意識の醸成、研究の促進、具体的かつ現実的な行動の提案、あるいはスペインにおけるAIの現実のバロメーターの開発などを通じて、AIの責任ある利用に取り組むことである。GUIAの目的は、具体的な行動である措置を講じることである」と回想した。

の取り組み オディセIAGuIA (人工知能の倫理的使用のためのベスト プラクティス ガイド）という理念のもとに誕生しました。その目的は、技術、ビジネス、倫理のビジョンを根拠のある方法で人工知能システムに統合することです。したがって、あらゆるビジネスセクターの経営者や専門家を対象としたオンラインイベントとして今週金曜日に始まりました。

に カルメン・アルティガス, デジタル化・人工知能担当国務長官は、AIの社会への統合は、技術的な観点からだけでなく、規制、倫理、社会レベルでも重要な課題を引き起こすと強調しています。この意味で、国務長官は、人間を中心に据えたAIを推進する必要性を強調し、新たなデジタル時代における国民の基本的権利と信頼環境を保証する倫理的枠組みを通じて、AIが提供するあらゆる可能性を十分に探求できるモデルに向けて移行している。

このイベントでは、関係者全員が、GuIA で具体化された、人工知能を取り巻く倫理概念を根付かせる必要性について同意しました。 AI に関する倫理的考察を開始する役割を果たした世界的な原則の宣言と、特定のユースケースやビジネス プロセスに基づく現実との間に存在する空いたスペースをカバーすることの重要性。特定のテクノロジーによっても解決されます。

アルティガス氏は演説の中で、我が国の経済回復における主要技術の開発には信頼の枠組みが必要であると断言した。これは、デジタル化を通じてより現代的で包括的な経済となり、新技術で有利な立場にあり、質の高い雇用を生み出すことができる「我が国の経済を再構築する歴史的な機会」であり、「国として逃してはならない機会、技術革命である」。

同氏は、「デジタル・スペイン計画2025には診断とロードマップがある」と述べ、その鍵となるのはAIであり、現在、デジタル経済は国家GDPの19％を占め、建設に次ぐセクターとなる可能性があると述べた。同氏は、私たちは現在、「技術的」（堅牢で安全、監査可能で説明可能なAI）、「倫理的」（データは企業や政府ではなく国民のものであるという社会原則や価値観に合致する）、「規範的」（コンプライアンス）、そして「社会的」（社会の関与によるガバナンス）というさまざまな課題に直面していると説明した。同氏はまた、個人を中心に据えて、この機会を利用して溝を埋める必要があり、そのために、現在12月初旬まで公開協議中の国民向けデジタル権利憲章などのツールの開発に取り組んでいると考えている。

国務長官は、AIにおけるスペイン語の重要性を強調し、アルゴリズムが構想時から持続可能なものとなるよう、常に更新されるよう継続的に見直される新たな国家人工知能戦略や、「データオフィス」や「国家グリーンアルゴリズムプログラム」などの他のプロジェクトの次のプレゼンテーションを進めた。結論として同氏は、より強固な柱に基づいて国をデジタル的に再設計する再建のまたとない機会があり、そのための「リソースはある」と述べた。

技術への取り組み

Las tecnológicas están poniendo un gran esfuerzo. Su compromiso en esta disciplina es público e importante, conscientes de su relevancia. Muchos de ellos publican sus estudios y herramientas para que las empresas que hacen uso de su tecnología lo hagan de una manera responsable.

Pilar Manchón, Senior Director of AI ResearchStrategy de Google, destacó que “es extremadamente importante que haya un diálogo como este donde queden reflejados tanto los distintos retos y oportunidades en IA, como un rango amplio y diverso de perspectivas que enriquezcan el debate y garanticen un uso ético de estas herramientas. Esperamos que el resultado del estudio consiga ayudar a todo tipo de organizaciones públicas y privadas a hacer un uso responsable, ético y seguro de la tecnología, sin que ello inhiba su capacidad de innovación y su posicionamiento y competitividad en el mercado global. Para ello es imprescindible educar a la ciudadanía, desmentir mitos y alcanzar un estándar de transparencia y prácticas éticas que generen confianza. Esto nos permitirá avanzar con paso firme hacia metas aspiracionales, por ejemplo en precisión y ‘explicabilidad’, que a día de hoy están más allá del estado del arte. En definitiva, queremos aportar nuestro granito de arena para democratizar el acceso a la IA, y que cada vez sean más las personas que contribuyan a crear herramientas de IA en beneficio de la sociedad.”

De igual manera, Enric Delgado Samper (CTO de IBM Spain, Portugal, Greece and Israel), comentó que “En IBM solo defendemos, trabajamos y colaboramos por una IA en el que valores como la equidad, la transparencia y la confianza estén siempre en el centro de su desarrollo y aplicación. El valor de un sistema de IA no está en su potencia tecnológica per se, sino en su capacidad para contribuir al progreso justo de las personas y servir al bien común. Desde esa base ética, su potencial para ayudarnos y potenciar las mejores capacidades y los mejores valores del ser humano es inmenso.”

また David Carmona (Artificial Intelligence&Innovation General Manager en Microsoft) declaró que “El desarrollo de inteligencia artificial responsable va más allá de identificar los desafíos y establecer unos principios; requiere también implantar nuevas prácticas en el ciclo completo de desarrollo así como herramientas y tecnologías especificas en áreas como privacidad, transparencia o control de los algoritmos”.

La otra parte, las empresas sectoriales también están muy concienciadas a sabiendas de su fundamental responsabilidad social con sus clientes. Además de que un uso éticamente correcto de estas tecnologías podría impactar positivamente en la percepción que de ellos pudieran acabar teniendo los mismos.

En el evento participó Francisco José Montalvo, Chief Data Officer de Telefónica, que señaló: “Desde la publicación de sus principios de IA en 2018, Telefónica está trabajando en su implementación en el día a día de la compañía. Ha definido programas de formación para los empleados, herramientas técnicas, un cuestionario ético y un modelo de gobernanza. Además, el uso de la IA se engloba dentro de un marco más amplio de “diseño responsable” cubriendo la privacidad, la seguridad, la sostenibilidad, la ética, la accesibilidad y el cliente.”

Juan Manuel Belloto, director de la iniciativa GuIA, ha recalcado en sus conclusiones la amplia presencia de profesionales españoles en puestos de importancia en grandes empresas internacionales y ha recordado que hay mucho trabajo por hacer y la importancia de que sea colaborativo. Un buen ejemplo es OdiseIA, en la que se puede participar como particular o como institución, y que, tiene previsto presentar las conclusiones de GuIA a finales de 2021, incluyendo las buenas prácticas existentes de empresas y organismos públicos de distintos sectores junto a casos de usos prácticos y coherentes.

ついに、 Mar Cabra, periodista ganadora del Premio Pulitzer y cofundadora de OdiseIA, ha sido la encargada de conducir este acto y como cierre, un titular: “este es tan solo el principio”.

Continúa el Proceso GuIA

Como próximos pasos, el objetivo es aglutinar a los principales actores que conforman el ecosistema de la Inteligencia Artificial. Un necesario ejercicio de colaboración Publico-Privada que dinamice la asimilación de la Inteligencia Artificial de una manera ética en todos los sectores empresariales, algo tan importante para la sociedad.

Una iniciativa que además coincide en el tiempo con la presentación de la Estrategia Nacional de Inteligencia Artificial de la mano del actual gobierno, un hecho de especial relevancia para España.

Tras el evento del pasado viernes a lo largo del primer trimestre de 2021 se llevará a cabo la publicación de las conclusiones, tras un análisis exhaustivo de cada una de las estrategias presentadas.

En el segundo trimestre 2021, se procederá a un análisis colaborativo entre expertos de distintas áreas (diferenciados por sectores), los cuales aportarán su punto de vista y necesidades reales al documento. Se realizarán workshops específicos con representantes de dichas empresas y organismos. El proceso de edición del documento estará liderado por reconocidos expertos.

Por último, en octubre 2021 tendrá lugar un evento en el que se presentará la GuIA al público con participación del Gobierno y de las empresas e instituciones participantes.