- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我在日志设置方面遇到了困难。我正在运行 celery worker 并使用 supervisor 击败。 celery 位于 django 项目中。
我创建了一个文件夹logs
,我想在其中存放所有日志。
权限:
/日志/
drwxrwxrwx 2 django django 4096 Jul 20 15:03 logs
/logs/any_file
total 1488
drwxrwxrwx 2 django django 4096 Jul 20 15:03 .
drwxrwxr-x 9 django django 4096 Jul 20 15:02 ..
-rw-r--r-- 1 root root 762824 Jul 20 15:07 celeryb_err.log
-rw-r--r-- 1 root root 0 Jul 20 15:03 celeryb_out.log
-rw-r--r-- 1 root root 737880 Jul 20 15:07 celery_err.log
-rw-r--r-- 1 root root 0 Jul 20 15:02 celery.log
-rw-r--r-- 1 root root 0 Jul 20 15:03 celery_out.log
-rw-r--r-- 1 root root 0 Jul 20 15:02 engine.log
-rw-r--r-- 1 root root 0 Jul 20 15:02 scrapy.log
我想这是因为每个日志文件都拥有根目录。
问题是 celery 返回:
celeryb_err.log
Traceback (most recent call last):
File "/home/django/realestate_scanner/realestate_scannervenv/bin/celery", line 11, in <module>
sys.exit(main())
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/__main__.py", line 14, in main
_main()
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/celery.py", line 326, in main
cmd.execute_from_commandline(argv)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/celery.py", line 488, in execute_from_commandline
super(CeleryCommand, self).execute_from_commandline(argv)))
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/base.py", line 281, in execute_from_commandline
return self.handle_argv(self.prog_name, argv[1:])
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/celery.py", line 480, in handle_argv
return self.execute(command, argv)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/celery.py", line 412, in execute
).run_from_argv(self.prog_name, argv[1:], command=argv[0])
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/base.py", line 285, in run_from_argv
sys.argv if argv is None else argv, command)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/base.py", line 367, in handle_argv
*self.parse_options(prog_name, argv, command))
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/base.py", line 403, in parse_options
self.parser = self.create_parser(prog_name, command)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/base.py", line 419, in create_parser
self.add_arguments(parser)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/bin/beat.py", line 114, in add_arguments
'-s', '--schedule', default=c.beat_schedule_filename)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/utils/collections.py", line 130, in __getattr__
return self[k]
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/utils/collections.py", line 431, in __getitem__
return getitem(k)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/utils/collections.py", line 280, in __getitem__
return mapping[_key]
File "/home/django/realestate_scanner/realestate_scannervenv/lib/python2.7/UserDict.py", line 36, in __getitem__
if key in self.data:
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/kombu/utils/objects.py", line 44, in __get__
value = obj.__dict__[self.__name__] = self.__get(obj)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/app/base.py", line 148, in data
return self.callback()
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/app/base.py", line 910, in _finalize_pending_conf
conf = self._conf = self._load_config()
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/app/base.py", line 920, in _load_config
self.loader.config_from_object(self._config_source)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/loaders/base.py", line 133, in config_from_object
self._conf = force_mapping(obj)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/celery/utils/collections.py", line 52, in force_mapping
return DictAttribute(m) if not isinstance(m, Mapping) else m
File "/home/django/realestate_scanner/realestate_scannervenv/lib/python2.7/abc.py", line 131, in __instancecheck__
subclass = getattr(instance, '__class__', None)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/django/utils/functional.py", line 238, in inner
self._setup()
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/django/conf/__init__.py", line 41, in _setup
self._wrapped = Settings(settings_module)
File "/home/django/realestate_scanner/realestate_scannervenv/local/lib/python2.7/site-packages/django/conf/__init__.py", line 110, in __init__
mod = importlib.import_module(self.SETTINGS_MODULE)
File "/usr/lib/python2.7/importlib/__init__.py", line 37, in import_module
__import__(name)
File "/home/django/realestate_scanner/realestate_scanner/settings.py", line 227, in <module>
dictConfig(LOGGING)
File "/usr/lib/python2.7/logging/config.py", line 794, in dictConfig
dictConfigClass(config).configure()
File "/usr/lib/python2.7/logging/config.py", line 576, in configure
'%r: %s' % (name, e))
ValueError: Unable to configure handler 'celery': [Errno 13] Permission denied: '/home/django/realestate_scanner/logs/celery.log'
settings.py
# worker_hijack_root_logger = False
LOGGING = {
'version': 1,
'disable_existing_loggers': True,
'formatters': {
'simple': {
'format': '%(levelname)s dc %(message)s',
'datefmt': '%y %b %d, %H:%M:%S',
},
'normal': {
'format': '%(asctime)s - %(name)s - %(levelname)s - %(message)s',
'datefmt': '%y %b %d, %H:%M:%S',
},
},
'handlers': {
'console': {
'level': 'INFO',
'class': 'logging.StreamHandler',
'formatter': 'simple'
},
# 'django': {
# 'level': 'INFO',
# 'class': 'logging.handlers.RotatingFileHandler',
# 'filename': 'logs/django.log',
# 'formatter': 'normal',
# 'maxBytes': 1024 * 1024 * 100, # 100 mb
# },
'celery': {
'level': 'INFO',
'class': 'logging.handlers.RotatingFileHandler',
'filename': 'logs/celery.log',
'formatter': 'normal',
'maxBytes': 1024 * 1024 * 100, # 100 mb
},
'engineapp': {
'level': 'INFO',
'class': 'logging.handlers.RotatingFileHandler',
'filename': 'logs/engine.log',
'formatter': 'normal',
'maxBytes': 1024 * 1024 * 100, # 100 mb
},
'scrapy': {
'level': 'INFO',
'class': 'logging.handlers.TimedRotatingFileHandler',
'filename': os.path.join(BASE_DIR, 'logs/scrapy.log'),
'formatter': 'normal'
}
},
'loggers': {
# 'django': {
# 'handlers': ['django',],
# 'level': 'INFO',
# },
'scrapy': {
'handlers': ['scrapy'],
'level': 'INFO',
},
'engineapp': {
'handlers': ['engineapp'],
'level': 'INFO',
},
'celery': {
'handlers': ['engineapp'],
'level': 'INFO',
},
},
}
from logging.config import dictConfig
dictConfig(LOGGING)
celery.py
from __future__ import absolute_import
import os
import logging
from logging.handlers import RotatingFileHandler
from celery import Celery
from django.conf import settings
# set the default Django settings module for the 'celery' program.
os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'realestate_scanner.settings')
app = Celery('realestate_scanner')
app.config_from_object('django.conf:settings',)
app.autodiscover_tasks(lambda: settings.INSTALLED_APPS)
import celery.signals
@celery.signals.setup_logging.connect
def on_celery_setup_logging(**kwargs):
logger = logging.getLogger('celery')
logger.setLevel(logging.INFO)
handler = RotatingFileHandler('logs/celery.log', maxBytes=1024 * 1024 * 10, backupCount=2, )
formatter = logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s')
handler.setFormatter(formatter)
handler.setLevel(logging.INFO)
logger.handlers = [handler]
supervisor/conf.d/celery_worker.conf
[program:celery_worker]
user=django
command=/home/django/realestate_scanner/realestate_scannervenv/bin/celery worker -A realestate_scanner --loglevel=INFO --purge
directory=/home/django/realestate_scanner
autostart=true
autorestart=true
stderr_logfile=/home/django/realestate_scanner/logs/celery_err.log
stdout_logfile=/home/django/realestate_scanner/logs/celery_out.log
supervisor/conf.d/celery_beat.conf
[program:celery_beat]
user=django
command=/home/django/realestate_scanner/realestate_scannervenv/bin/celery beat -A realestate_scanner --loglevel=INFO
directory=/home/django/realestate_scanner
autostart=true
autorestart=true
stderr_logfile=/home/django/realestate_scanner/logs/celeryb_err.log
stdout_logfile=/home/django/realestate_scanner/logs/celeryb_out.log
你知道如何摆脱这个错误吗?
最佳答案
允许在 shell 中写入以下命令的 celery 日志文件。
sudo chmod 777 /home/django/realestate_scanner/logs/celery.log
如果您希望它在删除文件后继续工作。
sudo chmod 777 /home/django/realestate_scanner/logs
关于django - celery 访问记录器文件 - [Errno 13] 权限被拒绝 :,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45218935/
当我运行此命令进行 celery 节拍时。 [2013-06-27 02:17:05,936: INFO/MainProcess] Celerybeat: Starting... [2013-06-2
我需要构建一个处理两种类型任务的系统。一种类型可以创建更多自身或另一种类型的任务。将有很少的 worker (2-3)和只有一个主机。最重要的要求是系统应该优雅地处理重新启动:即在重新启动时,正在进行
我们使用 Celery 4.2.1 和 Redis,并为我们的任务设置了全局软超时和硬超时。我们所有的自定义任务都设计为保持在限制范围内,但每天内置任务 backend_cleanup 任务最终都会因
我知道这违背了使用 Celery 的全部目的,但是是否有一个函数会阻塞直到结果返回? 所以我可以调用 actual_result = MyTask.dont_delay(some_arg="foo")
我们使用 Celery 4.2.1 和 Redis,并为我们的任务设置了全局软超时和硬超时。我们所有的自定义任务都设计为保持在限制范围内,但每天内置任务 backend_cleanup 任务最终都会因
我知道这违背了使用 Celery 的全部目的,但是是否有一个函数会阻塞直到结果返回? 所以我可以调用 actual_result = MyTask.dont_delay(some_arg="foo")
我计划使用 celery 作为我的项目的任务管理组件。它几乎具有我的项目所需的所有功能。我将有一组可以独立执行或按指定顺序执行的任务。在顺序任务中,我希望能够在中间任务之一失败时执行清理/回滚。我想知
它是运行 Celery 的实际处理器还是另一个进程?在花中,我可以在工作池中看到多个进程吗?这两者之间有什么区别? 最佳答案 当您运行 celery worker 时,它会创建一个父进程来管理正在运行
我有一个名为 ShippingApp 的项目,我按照步骤设置了 celery worker。我将 celery 3.1.26.post2 与 python3.7 一起使用,当我想启动 Celery W
尽我所能,我无法杀死这些 celery worker 。 我跑: celery --app=my_app._celery:app status 我看到我有3个(我不明白为什么3个 worker = 2
我在 docker 容器中运行了 celery ,我想检查选项 CELERY_TASK_RESULT_EXPIRES = '3600' 是否已应用。 我尝试使用 celery inspect conf
我使用 celery.chord(...) 创建一组任务和一个方法,该方法在组中的所有任务完成后被调用。 我使用 amqp 结果后端(但我想切换到 memcached)。 我的 worker 每秒钟一
我正在寻找一些关于将任务生成的列表映射到 celery 中的另一个任务的最佳方法的建议。 假设我有一个名为 parse 的任务,它解析 PDF 文档并输出页面列表。然后,每个页面都需要单独传递给另一个
这不是关于如何捕获 celery worker 日志的问题。有什么方法可以捕获生产者上的 celery 日志记录。我想要的是捕获当我调用 task.delay(...) 或 task.apply_as
我正在使用以下版本: 花==0.9.3 celery ==4.3.0 这为我提供了包含多个列的任务页面的以下显示: 每次我进入这个页面时,我最终都会重新排列页面,使列的顺序不同,并将行的顺序更改为降序
我想完成这样的事情: results = [] for i in range(N): data = generate_data_slowly() res = tasks.process
我想运行一个由beat 调度的复杂任务。让我们假设定义了默认的 add/mul 任务。 @app.on_after_configure.connect def setup_periodic_tasks
我有一个应用程序,其中包含 celery worker 。当我部署这将杀死那些正在运行的进程。 所以任务将开始,但永远不会完成,并且在部署完成时不会重新启动。 避免此问题并在部署完成后重新启动这些任务
我正在开始使用 Celery 进行 Django 项目。出于本地开发目的,我根据这些说明使用 djcelery 和 djkombu(数据库传输)进行了设置 http://ask.github.com/
如何配置 celery 在任务失败时发送电子邮件警报? 例如,我希望 Celery 在 3 个以上的任务失败或 10 个以上的任务被重试时通知我。 是否可以使用 celery 或实用程序(例如花),或
我是一名优秀的程序员,十分优秀!