美文网首页
Spark连接Mongos报错:com.mongodb.Mong

Spark连接Mongos报错:com.mongodb.Mong

作者: 不胖的胖大海 | 来源:发表于2017-11-02 11:44 被阅读0次
SparkSession spark = SparkSession.builder()
    .config("spark.mongodb.input.uri", URI)
    .config("spark.mongodb.output.uri", URI)
    .getOrCreate();

经查,在URI里面直接写域名是不对的,把要用到的集群入口的全部机器的Host都写上就没有问题了。

通过域名来分配机器,假如在A机器里面执行了一个Query操作,后续取数据的时候又给它分配个B机器,B机器都没有执行这个操作,肯定就取不到数据了。

String URI = "mongodb://mongosDomainName:27017/test.myCollection";

把机器都放在那里,让Spark自己管理。

String URI = "mongodb://192.168.0.1,192.168.0.2,192.168.0.3:27017/test.myCollection";

相关文章

网友评论

      本文标题:Spark连接Mongos报错:com.mongodb.Mong

      本文链接:https://www.haomeiwen.com/subject/wyjopxtx.html