Можно ли отображать AVCaptureVideoPreviewLayer в графическом контексте?

Это похоже на простую задачу, но это меня заводит. Можно ли преобразовать UIView, содержащий AVCaptureVideoPreviewLayer, в качестве подслоя в изображение, которое нужно сохранить?. Я хочу создать наложение дополненной реальности и нажать кнопку, чтобы сохранить изображение в рулоне камеры. Удерживание кнопки питания + домашняя клавиша захватывает скриншот на рулон камеры, что означает, что вся моя логика захвата работает, И эта задача возможна. Но я, похоже, не могу заставить его работать программно.

Я собираю предварительный просмотр изображения камеры с помощью AVCaptureVideoPreviewLayer. Все мои попытки сделать изображение не работают:

  previewLayer = [AVCaptureVideoPreviewLayer layerWithSession:captureSession];
//start the session, etc...


//this saves a white screen
- (IBAction)saveOverlay:(id)sender {
    NSLog(@"saveOverlay");

    UIGraphicsBeginImageContext(appDelegate.window.bounds.size);
        UIGraphicsBeginImageContext(scrollView.frame.size);

    [previewLayer.presentationLayer renderInContext:UIGraphicsGetCurrentContext()];


//    [appDelegate.window.layer renderInContext:UIGraphicsGetCurrentContext()];

    UIImage *screenshot = UIGraphicsGetImageFromCurrentImageContext();
    UIGraphicsEndImageContext();

    UIImageWriteToSavedPhotosAlbum(screenshot, self, 
                                   @selector(image:didFinishSavingWithError:contextInfo:), nil);
}

//это отображает все, EXCEPT для слоя предварительного просмотра, который пуст.

[appDelegate.window.layer renderInContext:UIGraphicsGetCurrentContext()];

Я где-то читал, что это может быть связано с проблемами безопасности iPhone. Это правда?

Просто чтобы быть ясным: Я не хочу сохранять изображение для камеры. Я хочу сохранить прозрачный слой предварительного просмотра, наложенный поверх другого изображения, тем самым создавая прозрачность. Но по какой-то причине я не могу заставить его работать.

Ответ 1

Мне нравится @Roma предложение об использовании GPU Image - отличная идея.,, однако, если вы хотите использовать чистый подход CocoaTouch, вот что делать:

Внедрение AVCaptureVideoDataOutputSampleBufferDelegate

- (void)captureOutput:(AVCaptureOutput *)captureOutput didOutputSampleBuffer:(CMSampleBufferRef)sampleBuffer
fromConnection:(AVCaptureConnection *)connection
{
    // Create a UIImage+Orientation from the sample buffer data
    if (_captureFrame)
    {
        [captureSession stopRunning];

        _captureFrame = NO;
        UIImage *image = [ImageTools imageFromSampleBuffer:sampleBuffer];
        image = [image rotate:UIImageOrientationRight];

        _frameCaptured = YES;

        if (delegate != nil)
        {
            [delegate cameraPictureTaken:image];
        }
    }
}

Захват как следует:

+ (UIImage *) imageFromSampleBuffer:(CMSampleBufferRef) sampleBuffer 
{
    // Get a CMSampleBuffer Core Video image buffer for the media data
    CVImageBufferRef imageBuffer = CMSampleBufferGetImageBuffer(sampleBuffer); 
    // Lock the base address of the pixel buffer
    CVPixelBufferLockBaseAddress(imageBuffer, 0); 

    // Get the number of bytes per row for the pixel buffer
    void *baseAddress = CVPixelBufferGetBaseAddress(imageBuffer); 

    // Get the number of bytes per row for the pixel buffer
    size_t bytesPerRow = CVPixelBufferGetBytesPerRow(imageBuffer); 
    // Get the pixel buffer width and height
    size_t width = CVPixelBufferGetWidth(imageBuffer); 
    size_t height = CVPixelBufferGetHeight(imageBuffer); 

    // Create a device-dependent RGB color space
    CGColorSpaceRef colorSpace = CGColorSpaceCreateDeviceRGB(); 

    // Create a bitmap graphics context with the sample buffer data
    CGContextRef context = CGBitmapContextCreate(baseAddress, width, height, 8, 
                                             bytesPerRow, colorSpace, kCGBitmapByteOrder32Little | kCGImageAlphaPremultipliedFirst); 
    // Create a Quartz image from the pixel data in the bitmap graphics context
    CGImageRef quartzImage = CGBitmapContextCreateImage(context); 
    // Unlock the pixel buffer
    CVPixelBufferUnlockBaseAddress(imageBuffer,0);

    // Free up the context and color space
    CGContextRelease(context); 
    CGColorSpaceRelease(colorSpace);

    // Create an image object from the Quartz image
    UIImage *image = [UIImage imageWithCGImage:quartzImage];

    // Release the Quartz image
    CGImageRelease(quartzImage);

    return (image);
}

Смешайте UIImage с наложением

Теперь, когда у вас есть UIImage, добавьте его в новый UIView.
Добавьте наложение сверху в качестве подзадачи.

Захват нового UIView

+ (UIImage*)imageWithView:(UIView*)view
{
    UIGraphicsBeginImageContextWithOptions(view.bounds.size, view.opaque, [UIScreen    mainScreen].scale);
    [view.layer renderInContext:UIGraphicsGetCurrentContext()];
    UIImage* img = UIGraphicsGetImageFromCurrentImageContext();
    UIGraphicsEndImageContext();
    return img;
}

Ответ 2

Я могу посоветовать вам попробовать графическое изображение.

https://github.com/BradLarson/GPUImage

Он использует openGL, поэтому он довольно быстрый. Он может обрабатывать изображения с камеры и добавлять к ним фильтры (их много), включая обнаружение границ, обнаружение движения и многое другое

Он похож на OpenCV, но на основе собственного опыта графического процессора проще подключиться к вашему проекту, а язык objective-c.

Проблема может возникнуть, если вы решили использовать box2d для физики - тоже использует openGl, и вам нужно будет потратить некоторое время, пока эти 2 фреймворка не прекратят сражаться))