SparkStreaming作业运行后报OBS访问403如何处理?
问:
SparkStreaming作业运行几十个小时后失败,报OBS访问403如何处理?
答:
当用户提交作业需要读写OBS时,提交作业程序会默认为用户添加访问OBS的临时accesskey和secretkey,但是临时accesskey和secretkey有过期时间。
如果需要运行像Flink和SparkStreaming这样的长时作业时,用户可通过“服务配置参数”选项框传入永久的accesskey和secretkey,以保证作业不会在运行过程中因密钥过期而执行失败。