Recupera, conserva y transforma como etapas distintas
Reddit Data Stream permite a responsables de ETL leer un archivo histórico independiente de Reddit. No es oficial ni afiliado a Reddit y no proporciona datos en tiempo real. Cada solicitud devuelve una respuesta JSON acotada. El nombre no implica una conexión SSE o WebSocket, un flujo de cambios o entrega continua. Tu planificador decide cuándo realizar solicitudes; el servicio no ejecuta tus tareas ni mantiene el progreso de tu proceso.
Distingue la página recibida del archivo que construye tu aplicación. Primero conserva la respuesta original; después tu código puede escribir cada registro de data como un objeto JSON en una línea de un archivo JSONL local. Mantén pagination y credits en un registro separado de ese lote. No se trata de una exportación JSONL generada por el servidor ni de un conector nativo de Airflow.
Los registros pueden faltar, variar o no estar disponibles. No se garantiza cobertura completa, permanencia, esquema fijo o repetición idéntica. La entrega sigue el orden interno _doc, no cronología, relevancia o puntuación. Guardar page=3 en tu registro local describe el trabajo realizado, no una posición estable para retomar el archivo. Un nuevo intento remoto puede encontrar otra composición de registros.