Scalaz(49)- scalaz-stream: 深入了解-Sink/Channel

   一个完整的scalaz-stream有以下几个部分组成:Source -> Transducer -> Sink,用直白文字来描述就是:“输入 -> 传换 -> 输出”。我们已经在前面几篇讨论中介绍了Source和Transducer的基本情况,这篇讨论我们探讨一下Sink。scalaz-stream最基本的功能就是从Source接收一串元素,经过处理然后输出。毕竟我们从外部获取了数据、处理完毕后总不能就留在原地内存,还是要把数据输出到对当前运算中程序来说的一个外部系统。Sink就等于是这个外部系统的输入接口。与往常一样,我们先来看看Sink的类型款式:

 /**
   * An effectful sink, to which we can send values. Modeled
   * as a source of effectful functions.
   */
  type Sink[+F[_],-O] = Process[F, O => F[Unit]]

从类型款式看来Sink就是一种Process。只不过它包含的元素是一串函数(O => F[Unit])。这里的O是数据元素,F[Unit]的意思是对O进行F运算后不返回任何结果,如:Task{ println(...)}。我们先构造一个简单的Sink:

1 val sinkStdout: Sink[Task,String] =
2    Process.repeatEval {
3       Task.delay { (s: String) =>
4         Task.delay { println(s) }}}               //> sinkStdout  : scalaz.stream.Sink[scalaz.concurrent.Task,String] = Append(Await(scalaz.concurrent.Task@702b8b12,<function1>,<function1>),Vector(<function1>))
5    
6  val sinkStdout2: Sink[Task,String] =
7    Process.constant { (s: String) =>
8    Task.delay { println(s) }}                     //> sinkStdout2  : scalaz.stream.Sink[scalaz.concurrent.Task,String] = Append(Emit(Vector(<function1>)),Vector(<function1>))

我们应该怎样把数据传给Sink呢?首先我们可以用tee.zip:

1  (range(1,6) zip sinkStdout).flatMap {
2    case (i,f) => eval (f(i.toString))
3  }.run.run                                        //> 1
4                                                   //| 2
5                                                   //| 3
6                                                   //| 4
7                                                   //| 5

实际上scalaz-stream提供了to函数来支持Sink连接。to还是通过tee.zip来实现的:

  /** Feed this `Process` through the given effectful `Channel`. */
    def through[F2[x]>:F[x],O2](f: Channel[F2,O,O2]): Process[F2,O2] =
      self.zipWith(f)((o,f) => f(o)).eval onHalt { _.asHalt }     
  /** Attaches `Sink` to this  `Process`  */
    def to[F2[x]>:F[x]](f: Sink[F2,O]): Process[F2,Unit] =
      through(f)

我们用to来重复示范上面的例子:

1 (range(1,6).map(_.toString) to sinkStdout).run.run
2                                                   //> 1
3                                                   //| 2
4                                                   //| 3
5                                                   //| 4
6                                                   //| 5

可以说用to表述更简洁。如果我们需要把数据发送到多个外部系统,那我们就必须连接多个Sink了,可以用zip来连接多个Sink:

 1  (range(1,6) zip sinkStdout zip sinkStdout2).flatMap {
 2    case (((i,f),f2)) => for {
 3      _ <- eval(f(i.toString))
 4      _ <- eval(f2(i.toString))
 5    } yield ()
 6  }.run.run                                        //> 1
 7                                                   //| 1
 8                                                   //| 2
 9                                                   //| 2
10                                                   //| 3
11                                                   //| 3
12                                                   //| 4
13                                                   //| 4
14                                                   //| 5
15                                                   //| 5

scalaz-stream提供的observe函数可以像一个分流器一样安插在数据流中间复制一份数据发送到一个Sink而不影响正在流动的数据:

 1 (range(1,4).map(_.toString) observe sinkStdout observe sinkStdout2 to sinkStdout)
 2 .run.run                                          //> 1
 3                                                   //| 1
 4                                                   //| 1
 5                                                   //| 2
 6                                                   //| 2
 7                                                   //| 2
 8                                                   //| 3
 9                                                   //| 3
10                                                   //| 3

以上例子相当于连接了3个Sink。observe通常被用来跟踪流中数据,因为它不会影响数据流的正常运算。我们也可以把多个Sink zip成一个多功能的Sink。与上面例子不同的是它只有一个输出口:

 1 import scalaz._
 2 import Scalaz._
 3 import scalaz.stream._
 4 import scalaz.concurrent._
 5 import scala.language.higherKinds
 6 object streamLogDemo {
 7   sealed trait Loglevel
 8   case object Info extends Loglevel
 9   case object Debug extends Loglevel
10   case object Warning extends Loglevel
11   
12   case class Line(level: Loglevel, line: String)
13   //Sinks
14   val outInfo = io.stdOutLines.contramap {(l: Line) => "Info: " + l.line}
15                                                   //> outInfo  : scalaz.stream.Channel[scalaz.concurrent.Task,Line,Unit] = Append(Emit(Vector(<function1>)),Vector(<function1>))
16   val outDebug = io.stdOutLines.contramap {(l: Line) => "Debug: " + l.line}
17                                                   //> outDebug  : scalaz.stream.Channel[scalaz.concurrent.Task,Line,Unit] = Append(Emit(Vector(<function1>)),Vector(<function1>))
18   val outWarning = io.stdOutLines.contramap {(l: Line) => "Warning: " + l.line}
19                                                   //> outWarning  : scalaz.stream.Channel[scalaz.concurrent.Task,Line,Unit] = Append(Emit(Vector(<function1>)),Vector(<function1>))
20   
21   val zippedSink = (outInfo zip outDebug zip outWarning).map {
22     case ((fInfo,fDebug), fWarning) =>
23       (l: Line) => l.level match {
24         case Info    => fInfo(l)
25         case Debug   => fDebug(l)
26         case Warning => fWarning(l)
27       }
28   }                                               //> zippedSink  : scalaz.stream.Process[[x]scalaz.concurrent.Task[x],Line => scalaz.concurrent.Task[Unit]] = Append(Halt(End),Vector(<function1>))
29   //test data
30   val lines: List[Line] = List(
31     Line(Info, "Hello"),
32     Line(Debug, "buddy"),
33     Line(Warning, "nanana"))                      //> lines  : List[Line] = List(Line(Info,Hello), Line(Debug,buddy), Line(Warning,nanana))
34   //test run
35   (Process.emitAll(lines) to zippedSink).run.run  //> Info: Hello
36                                                   //| Debug: buddy
37                                                   //| Warning: nanana
38  }

仔细观察我们可以发现上面的例子里outInfo,outDebug,outWarning的最终类型变成了Channel,io.stdOutLines的类型应该是Sink,那么Channel应该是某种Sink了。我们看看Channel的类型款式:

/**
   * An effectful sink, to which we can send values. Modeled
   * as a source of effectful functions.
   */
  type Sink[+F[_],-O] = Process[F, O => F[Unit]]

  /**
   * An effectful channel, to which we can send values and
   * get back responses. Modeled as a source of effectful
   * functions.
   */
  type Channel[+F[_],-I,O] = Process[F, I => F[O]]

从类型款式上对比Sink和Channel的不同之处只在这个与外界系统的接口函数:Channel的函数是I => F[O],它返回了F运算结果。这也很容易理解:Sink正如其名,任何东西进入Sink就如泥牛入海,无所回应。Channel会返回接收数据方的信息。Sink和Channel之间是可以相互转换的。Channel有个lift函数,能把一个A => F[B]函数升格成Channel类型:

 /** Promote an effectful function to a `Channel`. */
  def lift[F[_],A,B](f: A => F[B]): Channel[F, A, B] =
    Process constant f

实际上我如果用这个lift把A => F[Unit]这样的函数升格,就会得到一个Sink了。这个从Sink的lift函数中可以证实:

object sink {

  /** Promote an effectful function to a `Sink`. */
  def lift[F[_], A](f: A => F[Unit]): Sink[F, A] = channel lift f

}

我们用一些例子来体验一下:

 1  val ch = channel.lift((i: Int) => Task.delay { i * 3 })
 2                                                   //> ch  : scalaz.stream.Channel[scalaz.concurrent.Task,Int,Int] = Append(Emit(Vector(<function1>)),Vector(<function1>))
 3   (Process.range(1,6) through ch).runLog.run      //> res0: Vector[Int] = Vector(3, 6, 9, 12, 15)
 4   val sn = channel.lift((i: Int) => Task.delay { println(i * 3);()})
 5                                                   //> sn  : scalaz.stream.Channel[scalaz.concurrent.Task,Int,Unit] = Append(Emit(Vector(<function1>)),Vector(<function1>))
 6   (Process.range(1,6) to sn).run.run              //> 3
 7                                                   //| 6
 8                                                   //| 9
 9                                                   //| 12
10                                                   //| 15
11   val sn1 = sink.lift((i: Int) => Task.delay { println(i * 3) })
12                                                   //> sn1  : scalaz.stream.Sink[scalaz.concurrent.Task,Int] = Append(Emit(Vector(<function1>)),Vector(<function1>))
13   (Process.range(1,6) to sn1).run.run             //> 3
14                                                   //| 6
15                                                   //| 9
16                                                   //| 12
17                                                   //| 15

如果我们的系统需要与外部多个系统对接的话,我们同样可以把一个数据源发送到多个Sink和Channel:

 1 (Process.range(1,6) observe sn observe sn1 through ch).runLog.run
 2                                                   //> 3
 3                                                   //| 3
 4                                                   //| 6
 5                                                   //| 6
 6                                                   //| 9
 7                                                   //| 9
 8                                                   //| 12
 9                                                   //| 12
10                                                   //| 15
11                                                   //| 15
12                                                   //| res1: Vector[Int] = Vector(3, 6, 9, 12, 15)

 

 

 

 

 

 

 

 

 

转载于:https://www.cnblogs.com/tiger-xc/p/5690794.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
1 目标检测的定义 目标检测(Object Detection)的任务是找出图像中所有感兴趣的目标(物体),确定它们的类别和位置,是计算机视觉领域的核心问题之一。由于各类物体有不同的外观、形状和姿态,加上成像时光照、遮挡等因素的干扰,目标检测一直是计算机视觉领域最具有挑战性的问题。 目标检测任务可分为两个关键的子任务,目标定位和目标分类。首先检测图像中目标的位置(目标定位),然后给出每个目标的具体类别(目标分类)。输出结果是一个边界框(称为Bounding-box,一般形式为(x1,y1,x2,y2),表示框的左上角坐标和右下角坐标),一个置信度分数(Confidence Score),表示边界框中是否包含检测对象的概率和各个类别的概率(首先得到类别概率,经过Softmax可得到类别标签)。 1.1 Two stage方法 目前主流的基于深度学习的目标检测算法主要分为两类:Two stage和One stage。Two stage方法将目标检测过程分为两个阶段。第一个阶段是 Region Proposal 生成阶段,主要用于生成潜在的目标候选框(Bounding-box proposals)。这个阶段通常使用卷积神经网络(CNN)从输入图像中提取特征,然后通过一些技巧(如选择性搜索)来生成候选框。第二个阶段是分类和位置精修阶段,将第一个阶段生成的候选框输入到另一个 CNN 中进行分类,并根据分类结果对候选框的位置进行微调。Two stage 方法的优点是准确度较高,缺点是速度相对较慢。 常见Tow stage目标检测算法有:R-CNN系列、SPPNet等。 1.2 One stage方法 One stage方法直接利用模型提取特征值,并利用这些特征值进行目标的分类和定位,不需要生成Region Proposal。这种方法的优点是速度快,因为省略了Region Proposal生成的过程。One stage方法的缺点是准确度相对较低,因为它没有对潜在的目标进行预先筛选。 常见的One stage目标检测算法有:YOLO系列、SSD系列和RetinaNet等。 2 常见名词解释 2.1 NMS(Non-Maximum Suppression) 目标检测模型一般会给出目标的多个预测边界框,对成百上千的预测边界框都进行调整肯定是不可行的,需要对这些结果先进行一个大体的挑选。NMS称为非极大值抑制,作用是从众多预测边界框中挑选出最具代表性的结果,这样可以加快算法效率,其主要流程如下: 设定一个置信度分数阈值,将置信度分数小于阈值的直接过滤掉 将剩下框的置信度分数从大到小排序,选中值最大的框 遍历其余的框,如果和当前框的重叠面积(IOU)大于设定的阈值(一般为0.7),就将框删除(超过设定阈值,认为两个框的里面的物体属于同一个类别) 从未处理的框中继续选一个置信度分数最大的,重复上述过程,直至所有框处理完毕 2.2 IoU(Intersection over Union) 定义了两个边界框的重叠度,当预测边界框和真实边界框差异很小时,或重叠度很大时,表示模型产生的预测边界框很准确。边界框A、B的IOU计算公式为: 2.3 mAP(mean Average Precision) mAP即均值平均精度,是评估目标检测模型效果的最重要指标,这个值介于0到1之间,且越大越好。mAP是AP(Average Precision)的平均值,那么首先需要了解AP的概念。想要了解AP的概念,还要首先了解目标检测中Precision和Recall的概念。 首先我们设置置信度阈值(Confidence Threshold)和IoU阈值(一般设置为0.5,也会衡量0.75以及0.9的mAP值): 当一个预测边界框被认为是True Positive(TP)时,需要同时满足下面三个条件: Confidence Score > Confidence Threshold 预测类别匹配真实值(Ground truth)的类别 预测边界框的IoU大于设定的IoU阈值 不满足条件2或条件3,则认为是False Positive(FP)。当对应同一个真值有多个预测结果时,只有最高置信度分数的预测结果被认为是True Positive,其余被认为是False Positive。 Precision和Recall的概念如下图所示: Precision表示TP与预测边界框数量的比值 Recall表示TP与真实边界框数量的比值 改变不同的置信度阈值,可以获得多组Precision和Recall,Recall放X轴,Precision放Y轴,可以画出一个Precision-Recall曲线,简称P-R
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值