Des scientifiques russes doutent que l'intelligence artificielle soit inconditionnellement fiable

Un sujet très important lié aux technologies de l'intelligence artificielle a été discuté lors du dernier Présidium de l'Académie des sciences de Russie. Ainsi, au cours de la discussion, les scientifiques ont essayé de comprendre à quel point vous pouvez faire confiance à l'intelligence artificielle (IA) et où se situe la ligne après laquelle une personne doit prendre une décision par elle-même.

Croyez-le ou non, Intelligence Artificielle

Ainsi, selon le président de l'Académie des sciences de Russie A. Sergeeva, l'IA est une soi-disant "boîte noire" dont même ses créateurs eux-mêmes ne comprennent pas tout à fait comment cela fonctionne. Et alors une question très logique se pose: est-il possible de se fier aux conclusions de l'IA si l'on ne peut pas retracer la chaîne d'inférences faite par cette « machine »?

En effet, dans les faits, l'intelligence artificielle effectue déjà un assez grand nombre d'opérations mieux et plus rapidement que les humains.

Et il peut bien être tentant d'abandonner la science par principe, car un spécialiste de compétence moyenne peut définir certaines tâches et lire les réponses de l'IA.

Mais ce n'est que dans le cas d'une confiance totale et indiscriminée dans les solutions d'IA que vous pouvez obtenir une image très déformée, ce qui peut être assez coûteux.

Le fait est qu'une personne est trop encline à faire confiance à la technologie, mais avec l'intelligence artificielle, tout est beaucoup plus compliqué. Le fait est que l'humanité ne peut toujours pas expliquer pleinement comment fonctionne le cerveau humain.

Et de la même manière, il n'y a aucune compréhension du fonctionnement de l'IA, qui est construite par analogie avec le cerveau humain. En effet, les réseaux de neurones sont basés sur une équation assez simple d'un neurone.

Mais seulement dans le cas où, par exemple, 600 milliards de ces composants sont impliqués dans le travail à la fois, absolument personne ne dira avec certitude quelles connexions se forment dans le réseau de neurones.

De plus, les scientifiques ont noté qu'au fur et à mesure que les réseaux de neurones se développent, de plus en plus d'inconvénients apparaissent. Après tout, au début, l'IA apprend de millions d'exemples différents.

Mais souvent, même avec un léger écart par rapport aux paramètres "appris" pendant l'entraînement, le système commence à donner des résultats incorrects.

Un exemple assez frappant est donc un réseau de neurones créé par IBM, spécialement créé pour les besoins médicaux. Ainsi, il s'est avéré que l'IA d'IBM fait des diagnostics au niveau d'un médecin assez moyen. Cela signifie que même si les technologies d'IA permettent de créer des systèmes intelligents, elles sont loin d'être parfaites.

Et pour conclure la discussion, les scientifiques sont arrivés à la conclusion que, compte tenu de la tendance toujours croissante dans le développement et l'utilisation de l'intelligence artificielle, il est simplement nécessaire de créer un certain analogue de GOST, qui permettra d'utiliser pleinement l'IA seulement après que le système aura passé toute une série de contrôles, et les scientifiques sont convaincus que l'IA ne fonctionnera pas les erreurs.

Écrivez dans les commentaires ce que vous pensez personnellement de l'utilisation de l'IA dans la vie de tous les jours. Si vous avez aimé le matériel, évaluez-le et n'oubliez pas de vous abonner à la chaîne. Merci pour votre attention!