Akka学习 实现workcount

发布时间:2020-07-29 01:01:27 作者:dcx1010100
来源:网络 阅读:871
package com.dcx.scala.actor

import akka.actor.{Actor, ActorRef, ActorSystem, Props}

import scala.collection.mutable.HashMap
import scala.collection.mutable.ListBuffer
import scala.io.Source

/**
  * 思路:
  * 要有个Server
  * 要有个Client去通信,client统计文本后把(qy,3)输出给Server;Server再把所有的qy聚合,放到ListBuffer中
  */

object AkkaWordCount {

//  可变长List
  val list = new ListBuffer[HashMap[String,Int]]

  def main(args: Array[String]): Unit = {
//   输入数据文本
    val files: Array[String] = Array("D:\\tmp\\input\\word3.txt", "D:\\tmp\\input\\word3.txt", "D:\\tmp\\input\\word3.txt")
    //存放接收到的每个actor处理的结果数据
    //存放有actor返回结果的Future数据

    //拿ActorSystem是一个静态工厂
    val weChatApp = ActorSystem("WeChatApp")
    //拿到两个Actor的通信地址
    val akkaServerRef: ActorRef = weChatApp.actorOf(Props[AkkaServer],"jianjian1")

    val clientRef: ActorRef = weChatApp.actorOf(Props(new Client(akkaServerRef)),"jianjian")

    for (file <- files) {
      clientRef ! file
    }

//  让该线程先睡一下,过早进入死循环会导致list没有3个,一直循环不出来
    Thread.sleep(1000)
//  如果list把三个文件都放满了,就退出循环
    while(true){
      if(list.size == 3){
//       输出list
        println(list(list.size -1))
        return
      }
    }
  }
}

//把每次聚合后的值都发送给AkkaServer

class Client(val serverRef:ActorRef) extends Actor {
  override def receive: Receive = {
    {
//     偏函数 常用作模式匹配
//      case filePath: String => {
////      map阶段
//        val list: List[String] = Source.fromFile(filePath).getLines().toList
//        val words: List[String] = list.flatMap(_.split(" "))
//        val res: Map[String, Int] = words.map((_, 1)).groupBy(_._1).mapValues(_.size)
//        //异步发送结果数据    res发送到Server,去模式匹配
//        serverRef ! res
//      }

      case filePath:String => {
        val list: List[String] = Source.fromFile(filePath).getLines().toList
        val words: List[String] = list.flatMap(_.split(" "))
//      得出: (qy,3) 格式
        val res: Map[String, Int] = words.map((_, 1)).groupBy(_._1).mapValues(_.size)
        serverRef ! res
      }
    }
  }
}

import scala.collection.mutable.HashMap
class AkkaServer extends Actor {
  private var hashMap: HashMap[String, Int] = new HashMap[String, Int]

  override def receive: Receive = {
    case context: Map[String, Int] =>{
//      (qy,3) 
      context.map( (map:(String,Int)) => {
//      聚合
        val value: Any = hashMap.getOrElse(map._1,None)
        if(value != None){
          hashMap(map._1) = value.asInstanceOf[Int] + map._2
        }else{
          hashMap(map._1) = map._2
        }
      }
      )

      AkkaWordCount.list += hashMap
    }
  }
}
推荐阅读:
  1. python学习之机器学习
  2. Akka Actor模拟实现YARN

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

scala akka 学习

上一篇:Hadoop2.7.3+Spark2.1.0完全分布式集群搭建过程

下一篇:数据库的读一致性分析

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》