Compare commits
No commits in common. "5da486d43d111aa187d48bbdb7d6173d844152e8" and "712257429a172360887366e11d764ef265b0e8d3" have entirely different histories.
5da486d43d
...
712257429a
2 changed files with 16 additions and 157 deletions
168
src/cache/mem.rs
vendored
168
src/cache/mem.rs
vendored
|
@ -202,7 +202,6 @@ where
|
||||||
|
|
||||||
#[cfg(test)]
|
#[cfg(test)]
|
||||||
mod test_util {
|
mod test_util {
|
||||||
use std::cell::RefCell;
|
|
||||||
use std::collections::HashMap;
|
use std::collections::HashMap;
|
||||||
|
|
||||||
use super::{CacheValue, InternalMemoryCache};
|
use super::{CacheValue, InternalMemoryCache};
|
||||||
|
@ -210,14 +209,10 @@ mod test_util {
|
||||||
Cache, CacheEntry, CacheError, CacheKey, CacheStream, CallbackCache, ImageMetadata,
|
Cache, CacheEntry, CacheError, CacheKey, CacheStream, CallbackCache, ImageMetadata,
|
||||||
};
|
};
|
||||||
use async_trait::async_trait;
|
use async_trait::async_trait;
|
||||||
use parking_lot::Mutex;
|
|
||||||
use tokio::io::BufReader;
|
|
||||||
use tokio::sync::mpsc::Sender;
|
use tokio::sync::mpsc::Sender;
|
||||||
use tokio_util::codec::{BytesCodec, FramedRead};
|
|
||||||
|
|
||||||
#[derive(Default)]
|
|
||||||
pub struct TestDiskCache(
|
pub struct TestDiskCache(
|
||||||
pub Mutex<RefCell<HashMap<CacheKey, Result<(CacheStream, ImageMetadata), CacheError>>>>,
|
pub HashMap<CacheKey, Result<(CacheStream, ImageMetadata), CacheError>>,
|
||||||
);
|
);
|
||||||
|
|
||||||
#[async_trait]
|
#[async_trait]
|
||||||
|
@ -226,7 +221,8 @@ mod test_util {
|
||||||
&self,
|
&self,
|
||||||
key: &CacheKey,
|
key: &CacheKey,
|
||||||
) -> Option<Result<(CacheStream, ImageMetadata), CacheError>> {
|
) -> Option<Result<(CacheStream, ImageMetadata), CacheError>> {
|
||||||
self.0.lock().get_mut().remove(key)
|
// todo: Actually implement nontrivial code
|
||||||
|
None
|
||||||
}
|
}
|
||||||
|
|
||||||
async fn put(
|
async fn put(
|
||||||
|
@ -235,12 +231,7 @@ mod test_util {
|
||||||
image: bytes::Bytes,
|
image: bytes::Bytes,
|
||||||
metadata: ImageMetadata,
|
metadata: ImageMetadata,
|
||||||
) -> Result<(), CacheError> {
|
) -> Result<(), CacheError> {
|
||||||
let reader = Box::pin(BufReader::new(tokio_util::io::StreamReader::new(
|
todo!()
|
||||||
tokio_stream::once(Ok::<_, std::io::Error>(image)),
|
|
||||||
)));
|
|
||||||
let stream = CacheStream::Completed(FramedRead::new(reader, BytesCodec::new()));
|
|
||||||
self.0.lock().get_mut().insert(key, Ok((stream, metadata)));
|
|
||||||
Ok(())
|
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
|
@ -249,22 +240,11 @@ mod test_util {
|
||||||
async fn put_with_on_completed_callback(
|
async fn put_with_on_completed_callback(
|
||||||
&self,
|
&self,
|
||||||
key: CacheKey,
|
key: CacheKey,
|
||||||
data: bytes::Bytes,
|
image: bytes::Bytes,
|
||||||
metadata: ImageMetadata,
|
metadata: ImageMetadata,
|
||||||
on_complete: Sender<CacheEntry>,
|
on_complete: Sender<CacheEntry>,
|
||||||
) -> Result<(), CacheError> {
|
) -> Result<(), CacheError> {
|
||||||
self.put(key.clone(), data.clone(), metadata.clone())
|
todo!()
|
||||||
.await?;
|
|
||||||
let on_disk_size = data.len() as u64;
|
|
||||||
let _ = on_complete
|
|
||||||
.send(CacheEntry {
|
|
||||||
key,
|
|
||||||
data,
|
|
||||||
metadata,
|
|
||||||
on_disk_size,
|
|
||||||
})
|
|
||||||
.await;
|
|
||||||
Ok(())
|
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
|
@ -292,13 +272,14 @@ mod test_util {
|
||||||
|
|
||||||
#[cfg(test)]
|
#[cfg(test)]
|
||||||
mod cache_ops {
|
mod cache_ops {
|
||||||
|
use std::collections::HashMap;
|
||||||
use std::error::Error;
|
use std::error::Error;
|
||||||
|
|
||||||
use bytes::Bytes;
|
use bytes::Bytes;
|
||||||
use futures::{FutureExt, StreamExt};
|
use futures::FutureExt;
|
||||||
|
|
||||||
use crate::cache::mem::InternalMemoryCache;
|
use crate::cache::mem::InternalMemoryCache;
|
||||||
use crate::cache::{Cache, CacheEntry, CacheKey, CacheStream, ImageMetadata, MemStream};
|
use crate::cache::{Cache, CacheKey, CacheStream, ImageMetadata, MemStream};
|
||||||
|
|
||||||
use super::test_util::{TestDiskCache, TestMemoryCache};
|
use super::test_util::{TestDiskCache, TestMemoryCache};
|
||||||
use super::MemoryCache;
|
use super::MemoryCache;
|
||||||
|
@ -306,7 +287,7 @@ mod cache_ops {
|
||||||
#[tokio::test]
|
#[tokio::test]
|
||||||
async fn get_mem_cached() -> Result<(), Box<dyn Error>> {
|
async fn get_mem_cached() -> Result<(), Box<dyn Error>> {
|
||||||
let (cache, mut rx) = MemoryCache::<TestMemoryCache, _>::new_with_receiver(
|
let (cache, mut rx) = MemoryCache::<TestMemoryCache, _>::new_with_receiver(
|
||||||
TestDiskCache::default(),
|
TestDiskCache(HashMap::new()),
|
||||||
crate::units::Bytes(10),
|
crate::units::Bytes(10),
|
||||||
);
|
);
|
||||||
|
|
||||||
|
@ -339,132 +320,11 @@ mod cache_ops {
|
||||||
Ok(())
|
Ok(())
|
||||||
}
|
}
|
||||||
|
|
||||||
#[tokio::test]
|
#[test]
|
||||||
async fn get_disk_cached() -> Result<(), Box<dyn Error>> {
|
fn get_disk_cached() {}
|
||||||
let (mut cache, mut rx) = MemoryCache::<TestMemoryCache, _>::new_with_receiver(
|
|
||||||
TestDiskCache::default(),
|
|
||||||
crate::units::Bytes(10),
|
|
||||||
);
|
|
||||||
|
|
||||||
let key = CacheKey("a".to_string(), "b".to_string(), false);
|
#[test]
|
||||||
let metadata = ImageMetadata {
|
fn get_miss() {}
|
||||||
content_type: None,
|
|
||||||
content_length: Some(1),
|
|
||||||
last_modified: None,
|
|
||||||
};
|
|
||||||
let bytes = Bytes::from_static(b"abcd");
|
|
||||||
|
|
||||||
{
|
|
||||||
let cache = &mut cache.inner;
|
|
||||||
cache
|
|
||||||
.put(key.clone(), bytes.clone(), metadata.clone())
|
|
||||||
.await?;
|
|
||||||
}
|
|
||||||
|
|
||||||
let (mut stream, ret_metadata) = cache.get(&key).await.unwrap()?;
|
|
||||||
assert_eq!(metadata, ret_metadata);
|
|
||||||
assert!(matches!(stream, CacheStream::Completed(_)));
|
|
||||||
assert_eq!(stream.next().await, Some(Ok(bytes.clone())));
|
|
||||||
|
|
||||||
assert!(rx.recv().now_or_never().is_none());
|
|
||||||
|
|
||||||
Ok(())
|
|
||||||
}
|
|
||||||
|
|
||||||
// Identical to the get_disk_cached test but we hold a lock on the mem_cache
|
|
||||||
#[tokio::test]
|
|
||||||
async fn get_mem_locked() -> Result<(), Box<dyn Error>> {
|
|
||||||
let (mut cache, mut rx) = MemoryCache::<TestMemoryCache, _>::new_with_receiver(
|
|
||||||
TestDiskCache::default(),
|
|
||||||
crate::units::Bytes(10),
|
|
||||||
);
|
|
||||||
|
|
||||||
let key = CacheKey("a".to_string(), "b".to_string(), false);
|
|
||||||
let metadata = ImageMetadata {
|
|
||||||
content_type: None,
|
|
||||||
content_length: Some(1),
|
|
||||||
last_modified: None,
|
|
||||||
};
|
|
||||||
let bytes = Bytes::from_static(b"abcd");
|
|
||||||
|
|
||||||
{
|
|
||||||
let cache = &mut cache.inner;
|
|
||||||
cache
|
|
||||||
.put(key.clone(), bytes.clone(), metadata.clone())
|
|
||||||
.await?;
|
|
||||||
}
|
|
||||||
|
|
||||||
// intentionally not dropped
|
|
||||||
let _mem_cache = &mut cache.mem_cache.lock().await;
|
|
||||||
|
|
||||||
let (mut stream, ret_metadata) = cache.get(&key).await.unwrap()?;
|
|
||||||
assert_eq!(metadata, ret_metadata);
|
|
||||||
assert!(matches!(stream, CacheStream::Completed(_)));
|
|
||||||
assert_eq!(stream.next().await, Some(Ok(bytes.clone())));
|
|
||||||
|
|
||||||
assert!(rx.recv().now_or_never().is_none());
|
|
||||||
|
|
||||||
Ok(())
|
|
||||||
}
|
|
||||||
|
|
||||||
#[tokio::test]
|
|
||||||
async fn get_miss() {
|
|
||||||
let (cache, mut rx) = MemoryCache::<TestMemoryCache, _>::new_with_receiver(
|
|
||||||
TestDiskCache::default(),
|
|
||||||
crate::units::Bytes(10),
|
|
||||||
);
|
|
||||||
|
|
||||||
let key = CacheKey("a".to_string(), "b".to_string(), false);
|
|
||||||
assert!(cache.get(&key).await.is_none());
|
|
||||||
assert!(rx.recv().now_or_never().is_none());
|
|
||||||
}
|
|
||||||
|
|
||||||
#[tokio::test]
|
|
||||||
async fn put_puts_into_disk_and_hears_from_rx() -> Result<(), Box<dyn Error>> {
|
|
||||||
let (cache, mut rx) = MemoryCache::<TestMemoryCache, _>::new_with_receiver(
|
|
||||||
TestDiskCache::default(),
|
|
||||||
crate::units::Bytes(10),
|
|
||||||
);
|
|
||||||
|
|
||||||
let key = CacheKey("a".to_string(), "b".to_string(), false);
|
|
||||||
let metadata = ImageMetadata {
|
|
||||||
content_type: None,
|
|
||||||
content_length: Some(1),
|
|
||||||
last_modified: None,
|
|
||||||
};
|
|
||||||
let bytes = Bytes::from_static(b"abcd");
|
|
||||||
let bytes_len = bytes.len() as u64;
|
|
||||||
|
|
||||||
cache
|
|
||||||
.put(key.clone(), bytes.clone(), metadata.clone())
|
|
||||||
.await?;
|
|
||||||
|
|
||||||
// Because the callback is supposed to let the memory cache insert the
|
|
||||||
// entry into its cache, we can check that it properly stored it on the
|
|
||||||
// disk layer by checking if we can successfully fetch it.
|
|
||||||
|
|
||||||
let (mut stream, ret_metadata) = cache.get(&key).await.unwrap()?;
|
|
||||||
assert_eq!(metadata, ret_metadata);
|
|
||||||
assert!(matches!(stream, CacheStream::Completed(_)));
|
|
||||||
assert_eq!(stream.next().await, Some(Ok(bytes.clone())));
|
|
||||||
|
|
||||||
// Check that we heard back
|
|
||||||
let cache_entry = rx
|
|
||||||
.recv()
|
|
||||||
.now_or_never()
|
|
||||||
.flatten()
|
|
||||||
.ok_or("failed to hear back from cache")?;
|
|
||||||
assert_eq!(
|
|
||||||
cache_entry,
|
|
||||||
CacheEntry {
|
|
||||||
key,
|
|
||||||
data: bytes,
|
|
||||||
metadata,
|
|
||||||
on_disk_size: bytes_len,
|
|
||||||
}
|
|
||||||
);
|
|
||||||
Ok(())
|
|
||||||
}
|
|
||||||
}
|
}
|
||||||
|
|
||||||
#[cfg(test)]
|
#[cfg(test)]
|
||||||
|
|
5
src/cache/mod.rs
vendored
5
src/cache/mod.rs
vendored
|
@ -32,7 +32,7 @@ mod disk;
|
||||||
mod fs;
|
mod fs;
|
||||||
pub mod mem;
|
pub mod mem;
|
||||||
|
|
||||||
#[derive(PartialEq, Eq, Hash, Clone, Debug)]
|
#[derive(PartialEq, Eq, Hash, Clone)]
|
||||||
pub struct CacheKey(pub String, pub String, pub bool);
|
pub struct CacheKey(pub String, pub String, pub bool);
|
||||||
|
|
||||||
impl Display for CacheKey {
|
impl Display for CacheKey {
|
||||||
|
@ -62,7 +62,7 @@ impl From<&CacheKey> for PathBuf {
|
||||||
#[derive(Clone)]
|
#[derive(Clone)]
|
||||||
pub struct CachedImage(pub Bytes);
|
pub struct CachedImage(pub Bytes);
|
||||||
|
|
||||||
#[derive(Copy, Clone, Serialize, Deserialize, Debug, PartialEq, Eq)]
|
#[derive(Copy, Clone, Serialize, Deserialize, Debug, PartialEq)]
|
||||||
pub struct ImageMetadata {
|
pub struct ImageMetadata {
|
||||||
pub content_type: Option<ImageContentType>,
|
pub content_type: Option<ImageContentType>,
|
||||||
pub content_length: Option<u32>,
|
pub content_length: Option<u32>,
|
||||||
|
@ -232,7 +232,6 @@ impl<T: CallbackCache> CallbackCache for Arc<T> {
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
#[derive(PartialEq, Eq, Debug)]
|
|
||||||
pub struct CacheEntry {
|
pub struct CacheEntry {
|
||||||
key: CacheKey,
|
key: CacheKey,
|
||||||
data: Bytes,
|
data: Bytes,
|
||||||
|
|
Loading…
Reference in a new issue