找不到火花RDD类 - java

我是Spark的新手,并且需要有关错误的帮助:
java.lang.NoClassDefFoundError: org/apache/spark/rdd/RDD$

我正在Scala中创建一个独立的Spark示例。我运行了sbt clean packagesbt assembly来打包scala spark代码。两者均成功完成,没有任何错误。 RDD上的任何操作都会引发错误。解决此问题的任何指示都将非常有帮助。

我使用spark-submit命令调用作业。

$SPARK_HOME/bin/spark-submit --class org.apache.spark.examples.GroupTest /Users/../spark_workspace/spark/examples/target/scala-2.10/spark-examples_2.10-1.3.0-SNAPSHOT.jar

参考方案

我设法抛出此错误并克服了它。这绝对是YMMV的答案,但我留在这里,以防最终对某人有所帮助。

就我而言,我在Mac上运行了自制安装的spark(1.2.0)和mahout(0.11.0)。这让我很困惑,因为如果我手动运行mahout命令行,我不会收到错误,但是如果我从某些python代码中调用它,则会抛出错误。

我意识到我已将个人资料中的SPARK_HOME变量更新为使用1.4.1,并已在我的手动终端中重新获得了它。我运行python代码的终端仍在使用1.2.0。我在python终端中重新获得了我的个人资料,现在它“可以正常使用”。

整个过程感觉很黑,如果我猜出引发该错误的合理原因,也许是因为一个运动的部件采用了与您现有版本不同的Spark版本,体系结构。这似乎也是评论中暗示的解决方案。

java:继承 - java

有哪些替代继承的方法? java大神给出的解决方案 有效的Java:偏重于继承而不是继承。 (这实际上也来自“四人帮”)。他提出的理由是,如果扩展类未明确设计为继承,则继承会引起很多不正常的副作用。例如,对super.someMethod()的任何调用都可以引导您通过未知代码的意外路径。取而代之的是,持有对本来应该扩展的类的引用,然后委托给它。这是与Eric…

Java:BigInteger,如何通过OutputStream编写它 - java

我想将BigInteger写入文件。做这个的最好方式是什么。当然,我想从输入流中读取(使用程序,而不是人工)。我必须使用ObjectOutputStream还是有更好的方法?目的是使用尽可能少的字节。谢谢马丁 参考方案 Java序列化(ObjectOutputStream / ObjectInputStream)是将对象序列化为八位字节序列的一种通用方法。但…

Java-如何将此字符串转换为日期? - java

我从服务器收到此消息,我不明白T和Z的含义,2012-08-24T09:59:59Z将此字符串转换为Date对象的正确SimpleDateFormat模式是什么? java大神给出的解决方案 这是ISO 8601标准。您可以使用SimpleDateFormat simpleFormat = new SimpleDateFormat("yyyy-MM…

Java:从类中查找项目名称 - java

仅通过类的实例,如何使用Java反射或类似方法查找项目名称?如果不是,项目名称(我真正想要的是)可以找到程序包名称吗? 参考方案 项目只是IDE使用的简单组织工具,因此项目名称不是类或JVM中包含的信息。要获取软件包,请使用Class#getPackage()。然后,可以调用Package#getName()将包作为您在代码的包声明中看到的String来获取…

JAVA 8具有任何匹配属性的对象的过滤器列表 - java

我的要求是通过匹配任何属性的字符串来过滤对象列表。例如,假设Contact类具有三个属性:街道,城市,电话。我知道java流过滤器是如何工作的,在这里我必须将输入字符串与每个属性进行比较,如下所示:contactList.stream().filter(contact -> contact.getStreet().equals("dubai&…