DataSunrise sponsorise AWS re:Invent 2024 à Las Vegas, veuillez nous rendre visite au stand n°2158 de DataSunrise

Journalisation AWS OpenSearch

Journalisation AWS OpenSearch

Introduction

Dans le monde d’aujourd’hui, toutes les entreprises, quelle que soit leur taille, ont besoin de rechercher, analyser et visualiser rapidement de grandes quantités de données. AWS OpenSearch, anciennement connu sous le nom d’Amazon Elasticsearch Service, est devenu une solution puissante pour ces besoins. Un grand pouvoir implique également de grandes responsabilités, en particulier pour la sécurité des données et la conformité. C’est là que la journalisation AWS OpenSearch intervient, fournissant un mécanisme robuste pour surveiller et auditer vos domaines OpenSearch.

Cet article explorera les subtilités de la journalisation AWS OpenSearch, en abordant son importance, sa mise en œuvre et les meilleures pratiques. Que vous soyez expérimenté ou nouveau sur AWS, ce guide vous aidera à utiliser efficacement la journalisation OpenSearch.

Qu’est-ce qu’AWS OpenSearch ?

Avant de plonger dans la journalisation, abordons brièvement ce qu’est AWS OpenSearch. AWS OpenSearch est un service géré qui facilite le déploiement, l’exploitation et la mise à l’échelle des clusters OpenSearch dans le cloud AWS. Il fournit un moteur de recherche et d’analyse puissant capable de gérer de grands volumes de données en quasi-temps réel.

Comprendre la journalisation AWS OpenSearch

L’essence de la journalisation OpenSearch

Essentiellement, la journalisation AWS OpenSearch est une fonctionnalité qui vous permet de surveiller et d’auditer les activités au sein de vos domaines OpenSearch. Elle fournit des informations détaillées sur diverses opérations, y compris :

Cette capacité de journalisation est cruciale pour maintenir la sécurité des données, résoudre les problèmes et garantir la conformité aux diverses réglementations.

Types de journaux dans AWS OpenSearch

AWS OpenSearch propose plusieurs types de journaux :

Chacun de ces types de journaux a un but spécifique, fournissant des informations sur différents aspects de la performance et de la sécurité de votre domaine OpenSearch.

Mettre en œuvre la journalisation AWS OpenSearch

Configurer les journaux d’erreurs

Les journaux d’erreurs sont essentiels pour identifier et résoudre les problèmes dans votre domaine OpenSearch. Voici comment vous pouvez les activer :

  1. Accédez à la console du service AWS OpenSearch
  2. Sélectionnez votre domaine
  3. Cliquez sur l’onglet “Logs”
  4. Activez les “journaux d’erreurs” et choisissez un groupe de journaux CloudWatch

Exemple :

aws opensearch update-domain-config --domain-name my-domain --log-publishing-options "ErrorLogEnabled=true,CloudWatchLogsLogGroupArn=arn:aws:logs:us-west-2:123456789012:log-group:/aws/opensearch/domains/my-domain/error-logs"

Après activation, vous pourriez voir des journaux tels que :

[2023-07-02T12:00:00,000][ERROR][o.e.b.ElasticsearchUncaughtExceptionHandler] fatal error in thread [main]
java.lang.OutOfMemoryError: Java heap space

Cela indique un problème potentiel de mémoire qui doit être résolu.

Configurer les journaux lents

Les journaux lents aident à identifier les goulots d’étranglement de performance. Pour les configurer :

  1. Dans la console du service OpenSearch, sélectionnez votre domaine
  2. Accédez à la section “Journaux lents”
  3. Activez les journaux lents de recherche et d’index
  4. Définissez des seuils appropriés

Exemple de configuration :

PUT _cluster/settings
{
"transient": {
"search.slowlog.threshold.query.warn": "10s",
"search.slowlog.threshold.fetch.warn": "1s",
"indexing.slowlog.threshold.index.warn": "10s"
}
}

Cela définit des seuils d’alerte pour les requêtes lentes et les opérations d’indexation.

Journalisation d’audit AWS OpenSearch

Importance de la journalisation d’audit

La journalisation d’audit est un aspect critique de la journalisation AWS OpenSearch, en particulier pour la sécurité des données et la conformité. Elle fournit un enregistrement détaillé des activités des utilisateurs, vous aidant à surveiller qui a accédé à quelles données et quand.

Activer la journalisation d’audit

Pour activer la journalisation d’audit :

  1. Accédez à la console du service AWS OpenSearch
  2. Sélectionnez votre domaine et cliquez sur “Modifier”
  3. Dans la section “Contrôle d’accès granulé”, activez la journalisation d’audit
  4. Choisissez les événements de journalisation d’audit que vous souhaitez capturer

Exemple de configuration :

PUT _plugins/_security/api/audit/config
{
  "enabled": true,
  "audit": {
    "enable_rest": true,
    "disabled_rest_categories": [
      "AUTHENTICATED",
      "GRANTED_PRIVILEGES"
    ],
    "enable_transport": true,
    "disabled_transport_categories": [
      "AUTHENTICATED",
      "GRANTED_PRIVILEGES"
    ],
    "resolve_bulk_requests": true,
    "log_request_body": true,
    "resolve_indices": true,
    "exclude_sensitive_headers": true
  }
}

Cette configuration permet une journalisation d’audit complète, en excluant certains événements moins critiques pour réduire le volume des journaux.

Sécurité des données OpenSearch

Exploiter les journaux pour une sécurité renforcée

La journalisation AWS OpenSearch joue un rôle crucial dans le maintien de la sécurité des données. En analysant les journaux, vous pouvez :

  1. Détecter les tentatives d’accès non autorisées
  2. Identifier les potentielles violations de données
  3. Surveiller les activités des utilisateurs

Meilleures pratiques pour la sécurité d’OpenSearch

Pour maximiser les avantages de sécurité de la journalisation :

  1. Révisez régulièrement les journaux d’audit
  2. Configurez des alertes pour les activités suspectes
  3. Utilisez les données des journaux pour les rapports de conformité

Exemple de configuration d’alerte avec CloudWatch :

aws cloudwatch put-metric-alarm \
--alarm-name "UnauthorizedAccessAttempts" \
--alarm-description "Alarme lorsque plusieurs tentatives d'accès non autorisées sont détectées" \
--metric-name "UnauthorizedAccessCount" \
--namespace "AWS/ES" \
--statistic "Sum" \
--period 300 \
--threshold 5 \
--comparison-operator GreaterThanThreshold \
--dimensions Name=DomainName,Value=my-domain \
--evaluation-periods 1 \
--alarm-actions arn:aws:sns:us-west-2:123456789012:SecurityAlerts

Cela configure une alarme qui se déclenche lorsqu’il y a plus de 5 tentatives d’accès non autorisées en 5 minutes.

Techniques avancées de journalisation

Analyser les journaux avec OpenSearch Dashboards

OpenSearch Dashboards (anciennement Kibana) offre des capacités de visualisation puissantes pour vos journaux. Pour les configurer :

  1. Accédez à OpenSearch Dashboards via la console AWS
  2. Créez un modèle d’index correspondant à vos indices de journaux
  3. Créez des visualisations et des tableaux de bord

Exemple de requête pour visualiser les requêtes lentes :

GET opensearch_dashboards_sample_data_logs/_search
{
  "size": 0,
  "aggs": {
    "slow_queries": {
      "range": {
        "field": "response.duration",
        "ranges": [
          { "from": 1000 }
        ]
      }
    }
  }
}

Cette requête agrège toutes les demandes ayant pris plus de 1 seconde.

Intégration avec AWS CloudTrail

Pour une piste d’audit plus complète, intégrez la journalisation OpenSearch avec AWS CloudTrail :

  1. Activez CloudTrail dans votre compte AWS
  2. Configurez CloudTrail pour enregistrer les appels API OpenSearch
  3. Analysez les journaux CloudTrail en parallèle des journaux OpenSearch

Résolution des problèmes courants de journalisation

Journaux manquants

Si vous ne voyez pas les journaux attendus :

  1. Vérifiez si la journalisation est activée pour le type de journal spécifique
  2. Vérifiez les permissions IAM pour la livraison des journaux
  3. Assurez-vous que le groupe de journaux CloudWatch existe et dispose des permissions correctes

Volume élevé de journaux

Si vous générez trop de journaux :

  1. Ajustez les niveaux de journalisation (par exemple, augmentez les seuils des journaux lents)
  2. Utilisez des filtres de journaux pour vous concentrer sur les événements importants
  3. Utilisez des outils d’agrégation de journaux pour une analyse efficace des données

Exemple de requête CloudWatch Logs Insights pour identifier les sources de journaux à volume élevé :

fields @timestamp, @message
| stats count(*) as count by bin(30m)
| sort count desc
| limit 10

Cette requête montre les 10 périodes de 30 minutes avec le plus grand volume de journaux.

Résumé et conclusion

La journalisation AWS OpenSearch est un outil puissant pour maintenir la sécurité, la performance et la conformité de vos domaines OpenSearch. Vous pouvez apprendre beaucoup sur votre site web ou votre système en utilisant les journaux d’erreurs, les journaux lents et les journaux d’audit. Les journaux d’erreurs, les journaux lents et les journaux d’audit fournissent des informations précieuses sur la performance de votre site web ou de votre système. En analysant ces journaux, vous pouvez identifier les problèmes et apporter des améliorations pour améliorer la fonctionnalité globale.

Souvenez-vous de ces points clés :

  1. Activez une journalisation complète pour vos domaines OpenSearch
  2. Révisez et analysez régulièrement vos journaux
  3. Utilisez les journaux pour la surveillance de la sécurité et le reporting de conformité
  4. Intégrez avec d’autres services AWS comme CloudTrail pour une vue d’ensemble
  5. Optimisez votre stratégie de journalisation pour équilibrer les informations avec l’utilisation des ressources

En suivant ces pratiques, vous pouvez utiliser efficacement AWS OpenSearch à son plein potentiel tout en assurant une forte sécurité et performance.

Pour des outils conviviaux et flexibles de sécurité des bases de données, d’audit et de conformité, pensez à explorer les offres de DataSunrise. Visitez notre site web à datasunrise.com pour une démonstration en ligne et pour découvrir comment nous pouvons améliorer votre stratégie de protection des données.

Suivant

OpenSearch RBAC

OpenSearch RBAC

En savoir plus

Besoin de l'aide de notre équipe de support ?

Nos experts seront ravis de répondre à vos questions.

Informations générales :
[email protected]
Service clientèle et support technique :
support.datasunrise.com
Demandes de partenariat et d'alliance :
[email protected]