AnythingLLM sur Cloud Run — Guide de lab
Vue d'ensemble
Durée estimée : 45–90 minutes
AnythingLLM est un espace de travail d'IA privé et une plateforme de génération augmentée par récupération (RAG) qui permet aux équipes de dialoguer avec leurs documents, de se connecter à n'importe quel fournisseur de LLM (OpenAI, Anthropic, Ollama et d'autres) et de créer des assistants de connaissances fondés sur l'IA — sans envoyer de données à des services tiers. Ce lab vous accompagne tout au long du cycle de vie opérationnel du module AnythingLLM sur Cloud Run sur Google Cloud : le déployer, y accéder et le vérifier, l'exploiter au quotidien, l'observer, diagnostiquer les problèmes courants et le démanteler.
Le lab porte sur l'exploitation du module Cloud Run et de la plateforme Google Cloud, et non sur les fonctionnalités du produit AnythingLLM. Pour la liste complète des services provisionnés et de chaque paramètre de configuration (organisé par groupe), consultez le Guide de configuration — ce lab ne reprend volontairement pas ce détail afin de rester exact dans la durée.
Objectifs
À la fin de ce lab, vous saurez :
- Déployer le module depuis la plateforme RAD et repérer les ressources qu'il provisionne.
- Accéder au service en cours d'exécution et le vérifier.
- Effectuer les opérations du jour 2 — inspecter, mettre à l'échelle, mettre à jour, et gérer les secrets et les sauvegardes.
- Observer le service avec Cloud Logging et Cloud Monitoring.
- Diagnostiquer et résoudre les problèmes de déploiement et d'exécution les plus courants.
- Démanteler proprement le déploiement.
Prérequis
- Services_GCP (fournit le VPC, Cloud SQL, Artifact Registry et les comptes de service partagés dont dépend ce module). Vous n'avez pas besoin de le déployer vous-même au préalable — la plateforme détecte automatiquement s'il existe déjà dans le projet cible et, sinon, le provisionne avant ce module (voir la tâche 1).
- Un projet Google Cloud avec la facturation activée.
- gcloud CLI authentifiée :
gcloud auth loginetgcloud auth application-default login. - Le rôle IAM Project Owner (ou équivalent) sur le projet.
- Vous apportez votre propre projet ? Avant le premier déploiement dans ce projet, la boîte de dialogue de confirmation du déploiement vous demande de prouver que vous le contrôlez (Get verification code, exécutez les commandes affichées en tant qu'Owner du projet, puis Verify) et d'attribuer le rôle Owner au compte de service de déploiement RAD. Un projet que RAD crée pour vous ne requiert ni l'un ni l'autre.
- Le mode avancé pour les modifications ultérieures. Le formulaire de création ne demande que la première page de paramètres (et, dans un projet que RAD crée pour vous, guère plus que le nom du tenant et la région). Tous les autres paramètres du Guide de configuration — y compris les paramètres de mise à l'échelle et de version des tâches du jour 2 — se modifient ensuite avec Update sur la page du déploiement après avoir coché Enable advanced mode, ce qui exige un solde de crédits couvrant le coût de build estimé de la mise à jour (les mises à jour ne comportent jamais de frais de module). Dans un environnement de lab, seul un administrateur peut utiliser le mode avancé.
- Un accès à la plateforme RAD avec l'autorisation de déployer des modules dans le projet.
Définissez une fois ces variables shell ; chaque tâche ci-dessous les réutilise :
export PROJECT="<your-gcp-project-id>"
export REGION="us-central1" # the region you deploy into
Tâche 1 — Déployer le module [Automatisé]
-
Ouvrez Solutions → Solution Catalog → RAD modules dans la navigation supérieure de la plateforme RAD, ouvrez AnythingLLM (Cloud Run) dans la liste Platform Modules pour démarrer la configuration, choisissez Configuration Form sous How would you like to configure this deployment? (le formulaire s'ouvre sur le Conversational Assistant si vous détenez des crédits achetés ou si vous êtes partenaire ou administrateur), définissez
project_idet passez en revue les paramètres. Ne configurez que ce dont vous avez besoin — le Guide de configuration documente chaque paramètre par groupe, avec ses valeurs par défaut. Cliquez sur Deploy Module, vérifiez le coût estimé dans la boîte de dialogue Deployment Confirmation lorsqu'elle apparaît et cliquez sur Submit (si la boîte de dialogue ajoute ensuite une étape de confirmation, comme la vérification d'un projet que vous apportez, effectuez-la et cliquez sur Confirm), ce qui ouvre la page d'état du déploiement avec les journaux en temps réel. -
La plateforme provisionne le service Cloud Run, une base de données Cloud SQL (PostgreSQL 15) avec ses secrets Secret Manager, un bucket GCS dédié aux documents, construit l'image du conteneur et exécute un job ponctuel d'initialisation de la base de données. Les premiers déploiements prennent environ 20–35 minutes (la création de Cloud SQL représente l'essentiel de la durée).
-
Une fois l'opération terminée, repérez les ressources à l'aide de filtres indépendants des noms (afin que les commandes continuent de fonctionner quel que soit le suffixe du déploiement) :
SERVICE=$(gcloud run services list --project="$PROJECT" --region="$REGION" \
--filter="metadata.name~anythingllm" --format="value(metadata.name)" --limit=1)
SERVICE_URL=$(gcloud run services describe "$SERVICE" \
--project="$PROJECT" --region="$REGION" --format="value(status.url)")
echo "Service: $SERVICE"
echo "URL: $SERVICE_URL"
Tâche 2 — Accéder et vérifier [Manuel]
-
Vérifiez que le service est en bonne santé et que l'environnement d'exécution d'IA a terminé son initialisation :
curl -s "$SERVICE_URL/api/ping" # expect {"online":true} -
Ouvrez
$SERVICE_URLdans un navigateur. Lors du premier accès, AnythingLLM présente un assistant de configuration dans lequel vous créez le compte administrateur (nom d'utilisateur et mot de passe). La documentation d'AnythingLLM couvre la configuration des espaces de travail et des fournisseurs de LLM.
Tâche 3 — Exploiter et maintenir en service (jour 2) [Manuel]
-
Inspectez le service et ses révisions (chaque déploiement crée une révision immuable ; le trafic bascule vers la plus récente en bonne santé) :
gcloud run services describe "$SERVICE" --project="$PROJECT" --region="$REGION"
gcloud run revisions list --service="$SERVICE" --project="$PROJECT" --region="$REGION" -
Mettez à l'échelle en modifiant les paramètres de nombre minimal/maximal d'instances et en cliquant sur Update sur la page de détails du déploiement — le module gère la spécification du service ; la mise à l'échelle est donc une modification de configuration, et non une modification manuelle via
gcloud(une modification manuelle serait annulée lors du prochain apply). -
Mettez à jour la version de l'application en modifiant le paramètre de version via Update sur la page de détails du déploiement ; une nouvelle image est construite et une nouvelle révision est déployée.
-
Gérez les secrets, le stockage et les jobs :
gcloud secrets list --project="$PROJECT" --filter="name~anythingllm"
gcloud storage buckets list --project="$PROJECT" --filter="name~anythingllm-docs"
gcloud run jobs list --project="$PROJECT" --region="$REGION" # db-init and any scheduled jobs -
Ouvrez une session de base de données pour l'inspection ou la maintenance :
INSTANCE=$(gcloud sql instances list --project="$PROJECT" --format="value(name)" --limit=1)
# Role and database are tenant-prefixed (e.g. anythingllmdemo426161cf) — not the bare app name.
DB_USER=$(gcloud sql users list --instance="$INSTANCE" --project="$PROJECT" \
--format="value(name)" --filter="name~^anythingllm" --limit=1)
gcloud sql connect "$INSTANCE" --user="$DB_USER" --project="$PROJECT"
Tâche 4 — Observer : journalisation et surveillance [Manuel]
-
Journaux — depuis la CLI ou l'explorateur de journaux (Logs Explorer) :
gcloud run services logs read "$SERVICE" --project="$PROJECT" --region="$REGION" --limit=50Filtre du Logs Explorer :
resource.type="cloud_run_revision" AND resource.labels.service_name="<service>". -
Surveillance — ouvrez le tableau de bord Cloud Run du service et examinez le nombre de requêtes, la latence des requêtes (P50/P95/P99), le nombre d'instances (comportement de mise à l'échelle) et l'utilisation du CPU et de la mémoire.
uptime_check_configest désactivé par défaut (enabled=false,path="/") ; si vous l'avez activé lors du déploiement (ou via Update), vérifiez qu'il est au vert sous Monitoring → Uptime checks et examinez Alerting → Policies. Envisagez de faire pointer un test de disponibilité personnalisé vers/api/pingplutôt que vers le chemin/par défaut, car il s'agit du véritable point de terminaison de santé d'AnythingLLM.
Tâche 5 — Dépanner et déboguer [Manuel]
Des techniques durables pour les modes de défaillance que vous êtes le plus susceptible de rencontrer. Il s'agit de diagnostics au niveau de la plateforme, qui ne changent pas d'une version d'AnythingLLM à l'autre.
- Révision en mauvaise santé / le service ne répond pas : inspectez la dernière révision et ses
journaux à la recherche d'erreurs de démarrage. AnythingLLM charge les modèles d'embedding au premier démarrage — la
sonde de démarrage accorde jusqu'à 5 minutes ; laissez passer ce délai avant de poser un diagnostic.
gcloud run revisions list --service="$SERVICE" --project="$PROJECT" --region="$REGION"
gcloud run services logs read "$SERVICE" --project="$PROJECT" --region="$REGION" --limit=100 - Erreurs de connexion à la base de données : vérifiez que l'instance Cloud SQL est
RUNNABLE, que le secret du mot de passe de la base existe, queenable_cloudsql_volumevauttrueet que le job d'initialisation s'est terminé avec succès. - Échec du job d'initialisation : listez les exécutions et lisez les journaux de celle qui a échoué :
gcloud run jobs executions list --job="${SERVICE}-db-init" \
--project="$PROJECT" --region="$REGION" - OOM / pod planté : le pipeline d'embedding d'AnythingLLM nécessite au moins 4 GiB de RAM ;
vérifiez que
memory_limitn'est pas inférieur à ce seuil. - Échec du build de l'image : consultez l'historique Cloud Build pour lire le journal du build en échec.
- Erreurs 403 / d'autorisation : vérifiez les rôles IAM du compte de service d'exécution.
Consultez la section Configuration Pitfalls du Guide de configuration pour les pièges propres à chaque paramètre.
Tâche 6 — Démanteler [Automatisé]
Sur la page Deployments, ouvrez le déploiement et cliquez sur l'icône Trash (Delete). La suppression exécute terraform destroy et est irréversible (l'enregistrement du déploiement est conservé pour l'historique). Si un déploiement est bloqué et que la plateforme RAD ne peut plus le gérer (par exemple après des modifications manuelles en conflit avec l'état Terraform), utilisez plutôt Purge (depuis la même boîte de dialogue Delete) — cette action retire le déploiement des enregistrements de RAD sans détruire les ressources cloud (elle fait oublier le déploiement à RAD). La suppression retire tout ce que le module a créé — le service Cloud Run,
la base de données Cloud SQL, les secrets Secret Manager, le bucket GCS de documents et les images
Artifact Registry. Les ressources appartenant à Services_GCP (le VPC, le Cloud SQL partagé, le registre)
sont gérées séparément et ne sont pas supprimées ici.
Récapitulatif
| Tâche | Type | Résultat |
|---|---|---|
| 1 — Déployer | Automatisé | Le module provisionne Cloud Run, Cloud SQL (PostgreSQL 15), un bucket GCS, des secrets, et exécute l'initialisation de la base |
| 2 — Accéder et vérifier | Manuel | Le contrôle de santé réussit sur /api/ping ; compte administrateur créé via l'assistant de configuration |
| 3 — Exploiter | Manuel | Inspecter les révisions, mettre à l'échelle, mettre à jour la version, gérer secrets/stockage/jobs, accès à la base |
| 4 — Observer | Manuel | Interroger Cloud Logging ; examiner les métriques Cloud Monitoring et le test de disponibilité |
| 5 — Dépanner | Manuel | Diagnostiquer les problèmes de révision, de base de données, de job d'initialisation, d'OOM, de build et d'IAM |
| 6 — Démanteler | Automatisé | Delete (Trash) supprime toutes les ressources du module |
Need RAD to do something it does not do yet? Request it on the roadmap, or vote on what is already there.