美文网首页iOS开发即时通迅和直播iOS 直播视频
【如何快速的开发一个完整的iOS直播app】(采集篇)

【如何快速的开发一个完整的iOS直播app】(采集篇)

作者: 袁峥 | 来源:发表于2016-09-07 20:25 被阅读24257次

前言

在看这篇之前,如果您还不了解直播原理,请查看这篇文章如何快速的开发一个完整的iOS直播app(原理篇)

开发一款直播app,首先需要采集主播的视频和音频,然后传入流媒体服务器,本篇主要讲解如何采集主播的视频和音频,当前可以切换前置后置摄像头和焦点光标,但是美颜功能还没做,可以看见素颜的你,后续还会有直播的其他功能文章陆续发布。

如果喜欢我的文章,可以关注我微博:袁峥Seemygo

效果

为了采集效果图,我也是豁出去了,请忽略人物,关注技术。

忽略本人.png

基本知识介绍

  • AVFoundation: 音视频数据采集需要用AVFoundation框架.

  • AVCaptureDevice:硬件设备,包括麦克风、摄像头,通过该对象可以设置物理设备的一些属性(例如相机聚焦、白平衡等)

  • AVCaptureDeviceInput:硬件输入对象,可以根据AVCaptureDevice创建对应的AVCaptureDeviceInput对象,用于管理硬件输入数据。

  • AVCaptureOutput:硬件输出对象,用于接收各类输出数据,通常使用对应的子类AVCaptureAudioDataOutput(声音数据输出对象)、AVCaptureVideoDataOutput(视频数据输出对象)

  • AVCaptionConnection:当把一个输入和输出添加到AVCaptureSession之后,AVCaptureSession就会在输入、输出设备之间建立连接,而且通过AVCaptureOutput可以获取这个连接对象。

  • AVCaptureVideoPreviewLayer:相机拍摄预览图层,能实时查看拍照或视频录制效果,创建该对象需要指定对应的AVCaptureSession对象,因为AVCaptureSession包含视频输入数据,有视频数据才能展示。

  • AVCaptureSession: 协调输入与输出之间传输数据

    • 系统作用:可以操作硬件设备
    • 工作原理:让App与系统之间产生一个捕获会话,相当于App与硬件设备有联系了, 我们只需要把硬件输入对象和输出对象添加到会话中,会话就会自动把硬件输入对象和输出产生连接,这样硬件输入与输出设备就能传输音视频数据。
    • 现实生活场景:租客(输入钱),中介(会话),房东(输出房),租客和房东都在中介登记,中介就会让租客与房东之间产生联系,以后租客就能直接和房东联系了。

捕获音视频步骤:官方文档

  • 1.创建AVCaptureSession对象
  • 2.获取AVCaptureDevicel录像设备(摄像头),录音设备(麦克风),注意不具备输入数据功能,只是用来调节硬件设备的配置。
  • 3.根据音频/视频硬件设备(AVCaptureDevice)创建音频/视频硬件输入数据对象(AVCaptureDeviceInput),专门管理数据输入。
  • 4.创建视频输出数据管理对象(AVCaptureVideoDataOutput),并且设置样品缓存代理(setSampleBufferDelegate)就可以通过它拿到采集到的视频数据
  • 5.创建音频输出数据管理对象(AVCaptureAudioDataOutput),并且设置样品缓存代理(setSampleBufferDelegate)就可以通过它拿到采集到的音频数据
  • 6.将数据输入对象AVCaptureDeviceInput、数据输出对象AVCaptureOutput添加到媒体会话管理对象AVCaptureSession中,就会自动让音频输入与输出和视频输入与输出产生连接.
  • 7.创建视频预览图层AVCaptureVideoPreviewLayer并指定媒体会话,添加图层到显示容器layer中
  • 8.启动AVCaptureSession,只有开启,才会开始输入到输出数据流传输。
// 捕获音视频
- (void)setupCaputureVideo
{
    // 1.创建捕获会话,必须要强引用,否则会被释放
    AVCaptureSession *captureSession = [[AVCaptureSession alloc] init];
    _captureSession = captureSession;
    
    // 2.获取摄像头设备,默认是后置摄像头
    AVCaptureDevice *videoDevice = [self getVideoDevice:AVCaptureDevicePositionFront];
    
    // 3.获取声音设备
    AVCaptureDevice *audioDevice = [AVCaptureDevice defaultDeviceWithMediaType:AVMediaTypeAudio];
    
    // 4.创建对应视频设备输入对象
    AVCaptureDeviceInput *videoDeviceInput = [AVCaptureDeviceInput deviceInputWithDevice:videoDevice error:nil];
    _currentVideoDeviceInput = videoDeviceInput;
    
    // 5.创建对应音频设备输入对象
    AVCaptureDeviceInput *audioDeviceInput = [AVCaptureDeviceInput deviceInputWithDevice:audioDevice error:nil];
    
    // 6.添加到会话中
    // 注意“最好要判断是否能添加输入,会话不能添加空的
    // 6.1 添加视频
    if ([captureSession canAddInput:videoDeviceInput]) {
        [captureSession addInput:videoDeviceInput];
    }
    // 6.2 添加音频
    if ([captureSession canAddInput:audioDeviceInput]) {
        [captureSession addInput:audioDeviceInput];
    }
    
    // 7.获取视频数据输出设备
    AVCaptureVideoDataOutput *videoOutput = [[AVCaptureVideoDataOutput alloc] init];
    // 7.1 设置代理,捕获视频样品数据
    // 注意:队列必须是串行队列,才能获取到数据,而且不能为空
    dispatch_queue_t videoQueue = dispatch_queue_create("Video Capture Queue", DISPATCH_QUEUE_SERIAL);
    [videoOutput setSampleBufferDelegate:self queue:videoQueue];
    if ([captureSession canAddOutput:videoOutput]) {
        [captureSession addOutput:videoOutput];
    }
    
    // 8.获取音频数据输出设备
    AVCaptureAudioDataOutput *audioOutput = [[AVCaptureAudioDataOutput alloc] init];
    // 8.2 设置代理,捕获视频样品数据
    // 注意:队列必须是串行队列,才能获取到数据,而且不能为空
    dispatch_queue_t audioQueue = dispatch_queue_create("Audio Capture Queue", DISPATCH_QUEUE_SERIAL);
    [audioOutput setSampleBufferDelegate:self queue:audioQueue];
    if ([captureSession canAddOutput:audioOutput]) {
        [captureSession addOutput:audioOutput];
    }
    
    // 9.获取视频输入与输出连接,用于分辨音视频数据
    _videoConnection = [videoOutput connectionWithMediaType:AVMediaTypeVideo];
    
    // 10.添加视频预览图层
    AVCaptureVideoPreviewLayer *previedLayer = [AVCaptureVideoPreviewLayer layerWithSession:captureSession];
    previedLayer.frame = [UIScreen mainScreen].bounds;
    [self.view.layer insertSublayer:previedLayer atIndex:0];
    _previedLayer = previedLayer;
    
    // 11.启动会话
    [captureSession startRunning];
}

// 指定摄像头方向获取摄像头
- (AVCaptureDevice *)getVideoDevice:(AVCaptureDevicePosition)position
{
    NSArray *devices = [AVCaptureDevice devicesWithMediaType:AVMediaTypeVideo];
    for (AVCaptureDevice *device in devices) {
        if (device.position == position) {
            return device;
        }
    }
    return nil;
}

#pragma mark - AVCaptureVideoDataOutputSampleBufferDelegate
// 获取输入设备数据,有可能是音频有可能是视频
- (void)captureOutput:(AVCaptureOutput *)captureOutput didOutputSampleBuffer:(CMSampleBufferRef)sampleBuffer fromConnection:(AVCaptureConnection *)connection
{
    if (_videoConnection == connection) {
        NSLog(@"采集到视频数据");
    } else {
        NSLog(@"采集到音频数据");
    }
}

视频采集额外功能一(切换摄像头)

  • 切换摄像头步骤
    • 1.获取当前视频设备输入对象
    • 2.判断当前视频设备是前置还是后置
    • 3.确定切换摄像头的方向
    • 4.根据摄像头方向获取对应的摄像头设备
    • 5.创建对应的摄像头输入对象
    • 6.从会话中移除之前的视频输入对象
    • 7.添加新的视频输入对象到会话中
// 切换摄像头
- (IBAction)toggleCapture:(id)sender {
    
    // 获取当前设备方向
    AVCaptureDevicePosition curPosition = _currentVideoDeviceInput.device.position;
    
    // 获取需要改变的方向
    AVCaptureDevicePosition togglePosition = curPosition == AVCaptureDevicePositionFront?AVCaptureDevicePositionBack:AVCaptureDevicePositionFront;
    
    // 获取改变的摄像头设备
    AVCaptureDevice *toggleDevice = [self getVideoDevice:togglePosition];
    
    // 获取改变的摄像头输入设备
    AVCaptureDeviceInput *toggleDeviceInput = [AVCaptureDeviceInput deviceInputWithDevice:toggleDevice error:nil];
    
    // 移除之前摄像头输入设备
    [_captureSession removeInput:_currentVideoDeviceInput];
    
    // 添加新的摄像头输入设备
    [_captureSession addInput:toggleDeviceInput];
    
    // 记录当前摄像头输入设备
    _currentVideoDeviceInput = toggleDeviceInput;
    
}

视频采集额外功能二(聚焦光标)

  • 聚焦光标步骤
    • 1.监听屏幕的点击
    • 2.获取点击的点位置,转换为摄像头上的点,必须通过视频预览图层(AVCaptureVideoPreviewLayer)转
    • 3.设置聚焦光标图片的位置,并做动画
    • 4.设置摄像头设备聚焦模式和曝光模式(注意:这里设置一定要锁定配置lockForConfiguration,否则报错)
// 点击屏幕,出现聚焦视图
- (void)touchesBegan:(NSSet<UITouch *> *)touches withEvent:(UIEvent *)event
{
    // 获取点击位置
    UITouch *touch = [touches anyObject];
    CGPoint point = [touch locationInView:self.view];
    
    // 把当前位置转换为摄像头点上的位置
    CGPoint cameraPoint = [_previedLayer captureDevicePointOfInterestForPoint:point];
    
    // 设置聚焦点光标位置
    [self setFocusCursorWithPoint:point];
    
    // 设置聚焦
    [self focusWithMode:AVCaptureFocusModeAutoFocus exposureMode:AVCaptureExposureModeAutoExpose atPoint:cameraPoint];
}

/**
 *  设置聚焦光标位置
 *
 *  @param point 光标位置
 */
-(void)setFocusCursorWithPoint:(CGPoint)point{
    self.focusCursorImageView.center=point;
    self.focusCursorImageView.transform=CGAffineTransformMakeScale(1.5, 1.5);
    self.focusCursorImageView.alpha=1.0;
    [UIView animateWithDuration:1.0 animations:^{
        self.focusCursorImageView.transform=CGAffineTransformIdentity;
    } completion:^(BOOL finished) {
        self.focusCursorImageView.alpha=0;
        
    }];
}

/**
 *  设置聚焦
 */
-(void)focusWithMode:(AVCaptureFocusMode)focusMode exposureMode:(AVCaptureExposureMode)exposureMode atPoint:(CGPoint)point{

    AVCaptureDevice *captureDevice = _currentVideoDeviceInput.device;
    // 锁定配置
    [captureDevice lockForConfiguration:nil];
    
    // 设置聚焦
    if ([captureDevice isFocusModeSupported:AVCaptureFocusModeAutoFocus]) {
        [captureDevice setFocusMode:AVCaptureFocusModeAutoFocus];
    }
    if ([captureDevice isFocusPointOfInterestSupported]) {
        [captureDevice setFocusPointOfInterest:point];
    }
    
    // 设置曝光
    if ([captureDevice isExposureModeSupported:AVCaptureExposureModeAutoExpose]) {
        [captureDevice setExposureMode:AVCaptureExposureModeAutoExpose];
    }
    if ([captureDevice isExposurePointOfInterestSupported]) {
        [captureDevice setExposurePointOfInterest:point];
    }
    
    // 解锁配置
    [captureDevice unlockForConfiguration];
}

结束语

后续还会更新更多有关直播的资料,希望做到教会每一个朋友从零开始做一款直播app,并且Demo也会慢慢完善.
Demo点击下载

  • 由于FFMPEG库比较大,大概100M。
  • 本来想自己上传所有代码了,上传了1个小时,还没成功,就放弃了。
  • 提供另外一种方案,需要你们自己导入IJKPlayer库

具体步骤:

  • 下载Demo后,打开YZLiveApp.xcworkspace问题
打开YZLiveApp.xcworkspace问题
  • pod install就能解决
Snip20160830_12.png
  • 下载jkplayer库,点击下载
  • 把jkplayer直接拖入到与Classes同一级目录下,直接运行程序,就能成功了
拖入ijkplayer到与Classes同一级目录下.png
  • 注意不需要打开工程,把jkplayer拖入到工程中,而是直接把jkplayer库拷贝到与Classes同一级目录下就可以了。
  • 错误示范:不要向下面这样操作
Snip20160830_14.png

相关文章

网友评论

  • dd9bd9b8059b:标清 超清 高清 参数配置有什么推荐
  • 策马鞭程:请问能否实现,一部手机采集视频流,WIFI环境下,另外一台手机接收画面。不需要服务器。
    One1丨光:需要P2P协议,具体也是HTTP与服务器交换两台手机的局域网信息,使用UDP协议就可以了
  • 崠崠:demo点击采集程序就崩了 是怎么回事啊 作者?
  • 7df8ae1adbf4:大神 想问下 代理 拿到sampleBuffer后 怎么处理buffer 转化成Data
  • 学习学习中:hello hello,大神,我想问下用LFLivekit推流,怎么在服务端进行存储呢?方便以后观看
  • iOS_小胜:给力哦
  • meleebombs:手好白
  • 瑾瑾小泉:直播推流结束了,我应该怎么判断呢?
  • macfai:太牛了,大神,跟着学习
  • 0a65d38fd333:太给力了,讲的非常清楚,感谢峥哥
  • 浪人残风:峥哥,有没有合并h264和aac为ts并生成m3u8文件的demo啊,252797991@qq.com
  • cf883209d2a4:请问峥哥有技术讨论群吗? 第一次做直播app 希望碰到不懂的问题能请教一下
  • 79354670891a:请问下,有没有遇到视频延迟的问题呢?
  • 721e472431a4:好像有点问题啊大神,我一边听喜马拉雅,然后切换摄像头就会有问题
  • 721e472431a4:还有跟新吗,现在小马哥swift的有斗鱼直播,希望大神也跟新起来!
  • Yuke_鱼渇:那个jkplayer库下载下来解压一直失败 求解脱
  • 5d51964693b5:峥哥 学习到了
  • 小饼干是只松鼠:这个输入数据的音频 和 视频 是分开来的吗?要是同时要音频和视频数据这个怎么弄?

    // 获取输入设备数据,有可能是音频有可能是视频
    - (void)captureOutput:(AVCaptureOutput *)captureOutput didOutputSampleBuffer:(CMSampleBufferRef)sampleBuffer fromConnection:(AVCaptureConnection *)connection
    {
    if (_videoConnection == connection) {
    NSLog(@"采集到视频数据");
    } else {
    NSLog(@"采集到音频数据");
    }
    }
  • 6f32d34c09c6:这只是视频采集,有没有推流功能??
  • Parkour皇:我已经解决了
    _八阿哥:@颠倒的结尾 需要在info.plist里设置权限
    颠倒的结尾:@IGARASHI 我也是真机点采集就崩溃 请问你解决了吗
    Ko_Neko:@Parkour皇 请问如何解决的呢 我真机点击采集就闪退了
  • Parkour皇:我真机怎么不行呢
    赵镇:怎么解决的。我iOS10怎么不行?
    Parkour皇:@Parkour皇 我已经解决了
  • 黄二瓜:峥哥什么时候讲弹幕实现啊?
  • 5c899d2ee223:我靠,第一张手好白啊 :joy:
  • 小小小小小小米:你好,请问你有自己写xmpp的demo吗?我网上找了好多都没用。(有的回复我一下,谢谢各位大神)
    小小小小小小米:噢噢,谢谢啦
    袁峥:@鱼背上的小小米 木有
  • 大牛在郑州:期待出新篇章
  • 蓝天大海:怎么点击采集会崩溃
    赵镇:@伪砖家 怎么解决的。我iOS10怎么不行?
    youn_ger:@广杭小子 ios10 适配问题 根据崩溃信息到info.plist添加东西
  • xing_xing:写的很详细,点个赞
  • coderST:大神,切换摄像头后,只输出音频类型,视频类型不输出
    o_Cooper_o:怎么修改?
    绿豆粥与茶叶蛋:@风雨落山岚 在切换镜头那块同时将video的输入设备_currentVideoDeviceInput和输出设备videoOutput移除,然后重新添加输入和输出设备就可以了。:relaxed:
    风雨落山岚:我也发现了,怎么解决呢>
  • tikeyc:切换摄像头后只能获取到音频数据了?
  • tikeyc:确实不错
  • SwiftAI:期待编码和解码, 然后将解码的东西显示出来.
  • ef921b0151ca:按照提示来做了,运行demo和还是报错
  • c0197dbbfcd1:感谢分享 么么哒
  • Tang_shuya:总结的很深入啊,向峥哥学习.
  • 阿拉斯加的狗:小码哥啊!
  • 2227a38082c2:大神有没有推流篇
    若非长得丑怎会做逗比:@SkyHarute 还有个 lf.swift 也不错支持 Mac iOS
    Link913:https://github.com/LaiFengiOS/LFLiveKit
    这个框架可以视频转h264,音频转aac,只要配置好,给一个URL就可以推流了,可以说是高度封装吧,十分简单,要想看原理,峥哥没出之前你们可以看看源码,挺简单的,注释也不少
    沈悦:对啊,推流篇才是高潮!!!!别说直接用第三方哦~
  • 快乐的小马农:跟着峥哥学做直播,峥哥太给力了~
  • Link913:峥哥,获取到音视频后怎么保存下来或者传出去啊
    Link913:@若非长得丑怎会做逗比 大哥有demo吗,想学习一下
    若非长得丑怎会做逗比:@SkyHarute 采集到视频 编码为 H264 音频编码为 AAC 视频编码 可以采用 ffmpeg x264 videotoolbox 音频可以用 audiotoolbox fdk-aac 编码完了后 将视频音频封包 然后通过 librtmp 传输
    袁峥:@SkyHarute 还在研究 需要编码 这个超级难
  • 韩大熊宝要姓张:写的不错.加油.
  • b5acacf4f8dc:峥哥,看了你的几篇文章,受益匪浅,加油!支持你!
  • CoderMrGuo:跟峥哥学习
  • dd64f231ad97:如果添加的不是手机自带的摄像头能行吗?
    ,我们公司做摄像头的,App中要控制自己生产的摄像头
    袁峥:@用户6006038975 不客气
    dd64f231ad97:@袁峥Seemygo 好的,谢谢阿峥,虽然曾经是你的学生,到年龄比你大,嘿嘿
    袁峥:@用户6006038975 需要用蓝牙 网上有类似的资料
  • 3d4f3d70201f:老师就跟着你学直播了!十三期学员
  • JRZAlan:那只迷茫的眼睛
    7c7800f8432f:@毕竟Alan 好好跟着咱峥哥学 :+1:
    JRZAlan:@kaikai67 完了,这都被认出来了,想低调一点都不行
    7c7800f8432f:@毕竟Alan 阿西吧 峻荣啊

本文标题:【如何快速的开发一个完整的iOS直播app】(采集篇)

本文链接:https://www.haomeiwen.com/subject/tscrettx.html