Utilisez votre propre agent conversationnel sur Pi4

Magazine
Marque
Hackable
Numéro
48
Mois de parution
mai 2023
Spécialité(s)


Résumé

Au cas où vous venez de passer les quatre derniers mois dans une cabane isolée du monde, vous ne savez sans doute pas que le buzz actuel est chatGPT/GPT4, un prototype d'agent conversationnel, ou chatbot, aux performances impressionnantes, développé par OpenAI. Ceci a déclenché une frénésie incontrôlable et une accélération massive dans l'adoption de ce genre de systèmes pour un usage pratique (autre que lui faire dire des âneries). Si vous ne viviez pas dans une cabane la moitié de l'année, inutile de détailler davantage, si ce n'est en vous expliquant comment fonctionnent ces technologies et, surtout, comment avoir votre propre chatbot fonctionnant sur un modeste SBC.


Avant d'attaquer le sujet, il me paraît très important de préciser que nous parlons bien ici de faire fonctionner l'agent conversationnel sur la carte et, en aucune manière, d'utiliser un script ou un programme local reposant sur une API comme celle d'OpenAI. Non, nous envisageons ici une solution vous permettant de faire fonctionner un chatbot localement et sans connexion internet permanente (il faut bien télécharger des choses).

Autre point tout aussi important, la motivation concernant ce qui va suivre est purement éducative, pour comprendre les tenants et les aboutissants, la terminologie et le principe de fonctionnement de cette technologie. J'irai même plus loin en vous annonçant ouvertement que vouloir faire ce qui va suivre sur une carte comme une Raspberry Pi est, tout simplement, complètement stupide. Ceci pour des raisons qui apparaîtront de manière plus évidente une fois que nous testerons le résultat de nos manipulations. En d'autres termes, n'espérez...

Cet article est réservé aux abonnés. Il vous reste 97% à découvrir.
S'abonner à Connect
  • Accédez à tous les contenus de Connect en illimité
  • Découvrez des listes de lecture et des contenus Premium
  • Consultez les nouveaux articles en avant-première
Je m'abonne


Article rédigé par

Par le(s) même(s) auteur(s)

Créez n'importe quel périphérique USB avec ESP32-S2/S3

Magazine
Marque
Hackable
Numéro
59
Mois de parution
mars 2025
Spécialité(s)
Résumé

Dans le numéro 56 [1], puis dans le 58 [2], nous avons vu qu'il était non seulement relativement facile de créer un périphérique USB, quel qu'il soit, avec une carte Raspberry Pi Pico, mais également que ceci n'avait rien de bien nouveau, en faisant de même avec le microcontrôleur CY7C68013A/FX2LP. Passons aujourd'hui à ce que l'on pourrait considérer comme le « concurrent » direct du RP2040, à savoir l'ESP32.

PCI passthrough sous FreeBSD avec bhyve

Magazine
Marque
GNU/Linux Magazine
Numéro
274
Mois de parution
mars 2025
Spécialité(s)
Résumé

Dans un précédent article [1] nous avons exploré la possibilité, sous GNU/Linux, de créer des machines virtuelles capables d'accéder à du matériel PCI/PCIe dans le but, entre autres, de faciliter le développement de pilotes de périphériques OpenBSD. Ce type de fonctionnalités n'est pas spécifique à QEMU/KVM et il est temps de voir comment cela se passe de l'autre côté de l'univers Unix open source, avec FreeBSD.

PCILeech : ou quand le DMA devient un problème de sécurité

Magazine
Marque
Hackable
Numéro
59
Mois de parution
mars 2025
Spécialité(s)
Résumé

L'accès direct à la mémoire, ou DMA en anglais pour Direct Memory Access, est un mécanisme qui ne date pas d'hier. Il est présent partout, du monde des contrôleurs à celui des PC modernes, et permet d'accélérer grandement certaines opérations impliquant des transferts de données depuis ou vers un périphérique et la mémoire du système. L'avantage dans l'utilisation du DMA est le fait que le processeur n'intervient pas dans l'opération. Mais qui dit absence de participation de ce dernier, dit aussi absence de contrôle d'accès à la mémoire. Et ça, ça peut vite devenir un énorme problème de sécurité...

NouveauLes derniers articles Premiums

Nouveau Les derniers articles Premium

Bun.js : l’alternative à Node.js pour un développement plus rapide

Magazine
Marque
Contenu Premium
Spécialité(s)
Résumé

Dans l’univers du développement backend, Node.js domine depuis plus de dix ans. Mais un nouveau concurrent fait de plus en plus parler de lui, il s’agit de Bun.js. Ce runtime se distingue par ses performances améliorées, sa grande simplicité et une expérience développeur repensée. Peut-il rivaliser avec Node.js et changer les standards du développement JavaScript ?

PostgreSQL au centre de votre SI avec PostgREST

Magazine
Marque
Contenu Premium
Spécialité(s)
Résumé

Dans un système d’information, il devient de plus en plus important d’avoir la possibilité d’échanger des données entre applications. Ce passage au stade de l’interopérabilité est généralement confié à des services web autorisant la mise en œuvre d’un couplage faible entre composants. C’est justement ce que permet de faire PostgREST pour les bases de données PostgreSQL.

La place de l’Intelligence Artificielle dans les entreprises

Magazine
Marque
Contenu Premium
Spécialité(s)
Résumé

L’intelligence artificielle est en train de redéfinir le paysage professionnel. De l’automatisation des tâches répétitives à la cybersécurité, en passant par l’analyse des données, l’IA s’immisce dans tous les aspects de l’entreprise moderne. Toutefois, cette révolution technologique soulève des questions éthiques et sociétales, notamment sur l’avenir des emplois. Cet article se penche sur l’évolution de l’IA, ses applications variées, et les enjeux qu’elle engendre dans le monde du travail.

Petit guide d’outils open source pour le télétravail

Magazine
Marque
Contenu Premium
Spécialité(s)
Résumé

Ah le Covid ! Si en cette période de nombreux cas resurgissent, ce n’est rien comparé aux vagues que nous avons connues en 2020 et 2021. Ce fléau a contraint une large partie de la population à faire ce que tout le monde connaît sous le nom de télétravail. Nous avons dû changer nos habitudes et avons dû apprendre à utiliser de nombreux outils collaboratifs, de visioconférence, etc., dont tout le monde n’était pas habitué. Dans cet article, nous passons en revue quelques outils open source utiles pour le travail à la maison. En effet, pour les adeptes du costume en haut et du pyjama en bas, la communauté open source s’est démenée pour proposer des alternatives aux outils propriétaires et payants.

Les listes de lecture

7 article(s) - ajoutée le 01/07/2020
La SDR permet désormais de toucher du doigt un domaine qui était jusqu'alors inaccessible : la réception et l'interprétation de signaux venus de l'espace. Découvrez ici différentes techniques utilisables, de la plus simple à la plus avancée...
8 article(s) - ajoutée le 01/07/2020
Au-delà de l'aspect nostalgique, le rétrocomputing est l'opportunité unique de renouer avec les concepts de base dans leur plus simple expression. Vous trouverez ici quelques-unes des technologies qui ont fait de l'informatique ce qu'elle est aujourd'hui.
9 article(s) - ajoutée le 01/07/2020
S'initier à la SDR est une activité financièrement très accessible, mais devant l'offre matérielle il est parfois difficile de faire ses premiers pas. Découvrez ici les options à votre disposition et les bases pour aborder cette thématique sereinement.
Voir les 34 listes de lecture

Abonnez-vous maintenant

et profitez de tous les contenus en illimité

Je découvre les offres

Déjà abonné ? Connectez-vous