spark mllib中数据降维之如何实现奇异值分解

发布时间:2021-12-16 14:43:45 作者:小新
来源:亿速云 阅读:144

这篇文章主要介绍spark mllib中数据降维之如何实现奇异值分解,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

运行代码如下

package spark.DataDimensionReduction

import org.apache.spark.mllib.linalg.Vectors
import org.apache.spark.mllib.linalg.distributed.RowMatrix
import org.apache.spark.{SparkContext, SparkConf}

/**
  * 数据降维
  * 一个矩阵在计算过程中,将它在一个方向上进行拉伸,需要关心的是拉伸的幅度与方向.
  * 奇异值分解(SVD):一个矩阵分解成带有方向向量的矩阵相乘
  * Created by eric on 16-7-24.
  */
object SVD {
  val conf = new SparkConf()                                     //创建环境变量
    .setMaster("local")                                             //设置本地化处理
    .setAppName("SVD")                              //设定名称
  val sc = new SparkContext(conf)

  def main(args: Array[String]) {
    val data = sc.textFile("./src/main/spark/DataDimensionReduction/a.txt")
      .map(_.split(" ").map(_.toDouble))
      .map(line => Vectors.dense(line))

    val rm = new RowMatrix(data)                       //读入行矩阵
    val SVD = rm.computeSVD(2, computeU = true)			 //进行SVD计算
    println(SVD)			 //打印SVD结果矩阵
    //求 SVD 分解的矩阵
    println("*********************")
    val u = SVD.U
    val s = SVD.s
    val v = SVD.V

    println(u, s, v)
  }
}

a.txt

1 2 3 4
5 6 7 8
9 0 8 7
6 4 2 1

结果如下

spark mllib中数据降维之如何实现奇异值分解

以上是“spark mllib中数据降维之如何实现奇异值分解”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注亿速云行业资讯频道!

推荐阅读:
  1. Spark LDA 实例
  2. 14.spark mllib之快速入门

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

spark mllib

上一篇:Master上的Spark怎么安装

下一篇:Linux sftp命令的用法是怎样的

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》